‘AI Tingkat Klinis’: Istilah AI baru yang tidak berarti apa-apa

Lira Health awal bulan ini pengumuman Chatbot AI “tingkat klinis” untuk membantu pengguna dengan “tantangan” seperti kelelahan, gangguan tidur, dan stres. Siaran persnya berisi delapan belas referensi untuk “klinis”, termasuk “dirancang secara klinis”, “ketat secara klinis”, dan “terlatih secara klinis”. Bagi kebanyakan orang, termasuk saya sendiri, kata “klinis” berarti “pengobatan”. Masalahnya adalah, ternyata tidak cara Pengobatan Sebenarnya, “tingkat klinis” tidak berarti apa-apa.

“Tingkat klinis” adalah contoh kehebohan pemasaran yang dirancang untuk meminjam otoritas dari obat-obatan tanpa akuntabilitas atau regulasi. Hal ini berlaku untuk frasa pemasaran menarik lainnya seperti “tingkat medis” atau “tingkat farmasi” serta hal-hal seperti baja, silikon, dan suplemen yang menyiratkan kualitas; krim dan salep “berkekuatan resep” atau “diformulasikan oleh dokter” yang menunjukkan kekuatan; Dan “Hipoalergenik” Dan “Non-komedogenik” Hasilnya menunjukkan – kecil kemungkinannya menyebabkan reaksi alergi dan penyumbatan non-pori – yang tidak ada definisi standar atau metode pengujiannya.

Eksekutif Lira membenarkan bahwa, untuk mengatakan Berita Statistik Bahwa mereka menganggap peraturan FDA tidak berlaku untuk produk mereka. Dalam siaran pers MedicalLanguage – yang menyebut chatbot sebagai “panduan AI percakapan yang dirancang secara klinis” dan “pengalaman AI tingkat klinis pertama untuk perawatan kesehatan mental” – hanya untuk membantunya menonjol dari pesaing dan menunjukkan seberapa besar perhatian mereka dalam mengembangkannya, klaim mereka.

Lyra memperkenalkan alat AI-nya sebagai tambahan pada layanan kesehatan mental yang sudah disediakan oleh staf manusianya, seperti terapis dan dokter, sehingga memungkinkan pengguna menerima dukungan sepanjang waktu di antara sesi. Menurut StatistikChatbots dapat menggunakan percakapan klinis sebelumnya, sumber daya permukaan seperti latihan relaksasi, dan bahkan teknik terapi nonspesifik.

Uraian tersebut menimbulkan pertanyaan yang jelas tentang apa yang dimaksud dengan “tingkat klinis” di sini? Meski sangat bergantung pada kata itu, Lyra tidak mengatakannya secara langsung. Perusahaan tidak menanggapi TepiPermintaan komentar atau definisi spesifik tentang “AI tingkat klinis”.

“Istilah ‘AI tingkat klinis’ tidak memiliki arti regulasi yang spesifik,” kata George Horvath, seorang dokter dan profesor hukum di UC Law San Francisco. “Saya tidak dapat menemukan dokumen FDA apa pun yang menyebutkan istilah itu. Hal ini tentu saja tidak ada dalam undang-undang mana pun. Tidak ada dalam peraturan.”

Seperti istilah pemasaran buzz lainnya, ini tampaknya merupakan sesuatu yang diciptakan atau dikooptasi oleh perusahaan sendiri. “Ini jelas merupakan istilah yang keluar dari industri,” kata Horvath. “Bagi saya, tampaknya tidak ada satu makna pun… setiap perusahaan mungkin memiliki definisinya sendiri mengenai apa yang mereka maksud dengan hal tersebut.”

Meskipun “istilah itu saja tidak banyak artinya,” kata Vail Wright, seorang psikolog berlisensi dan direktur senior Kantor Inovasi Perawatan Kesehatan American Psychological Association, jelas mengapa Lyra ingin menggunakan istilah tersebut. “Saya pikir ini adalah istilah yang diciptakan oleh beberapa perusahaan sebagai penanda diferensiasi di pasar yang sangat ramai, meskipun sengaja tidak dicakup oleh Badan Pengawas Obat dan Makanan (FDA).” FDA mengawasi kualitas, keamanan, dan kemanjuran makanan dan produk medis seperti obat-obatan dan implan. Hanya ada sedikit aplikasi kesehatan mental yang termasuk dalam cakupannya, dan untuk mendapatkan persetujuan, pengembang harus memenuhi standar ketat dalam hal keselamatan, keamanan, dan kemanjuran melalui langkah-langkah seperti uji klinis yang membuktikan bahwa mereka melakukan apa yang mereka nyatakan dan melakukannya dengan aman.

Rute FDA mahal dan memakan waktu bagi pengembang, kata Wright, menjadikan “bahasa yang tidak jelas” seperti itu sebagai cara yang efektif untuk menonjol dari yang lain. Ini merupakan tantangan bagi konsumen, kata Wright, namun hal ini diperbolehkan. Jalur peraturan FDA “tidak dirancang untuk teknologi inovatif,” katanya, seraya menambahkan bahwa beberapa istilah tersebut digunakan untuk pemasaran. “Anda tidak benar-benar melihatnya dalam kesehatan mental,” kata Wright. “Tidak ada yang akan mengatakan terapi perilaku kognitif tingkat klinis, bukan? Bukan itu cara kita membicarakannya.”

Selain FDA, Komisi Perdagangan Federal, yang misinya mencakup melindungi konsumen dari pemasaran yang tidak adil atau menipu, dapat memutuskan bahwa ada sesuatu yang terlalu kabur dan menyesatkan masyarakat. Ketua FTC Andrew Ferguson pengumuman Investigasi terhadap chatbot AI, awal tahun ini, berfokus pada dampaknya terhadap anak di bawah umur – sambil “memastikan bahwa Amerika Serikat mempertahankan perannya sebagai pemimpin dunia dalam industri baru dan menarik ini.” Baik FDA maupun FTC tidak menanggapi hal ini TepiPermintaan komentar.

Meskipun perusahaan “benar-benar ingin menikmati dan menikmatinya,” kata Stephen Gilbert, profesor ilmu regulasi perangkat medis di Universitas Teknologi Dresden Jerman, regulator harus menyederhanakan persyaratan mereka dan memperjelas penegakan hukum. Jika perusahaan dapat mengajukan klaim seperti itu secara sah (atau lolos dari tuntutan ilegal), mereka akan melakukannya, katanya.

Ambiguitas tidak hanya terjadi pada AI – atau kesehatan mental, yang memiliki rangkaian produk “kesehatan” yang terdengar ilmiah dan menjanjikan ketelitian tanpa regulasi. Ambiguitas linguistik menyebar ke seluruh budaya konsumen seperti jamur pada roti. Kosmetik yang “telah teruji secara klinis”, minuman yang “meningkatkan kekebalan tubuh”, dan vitamin yang menjanjikan bagi dunia semuanya berada dalam wilayah abu-abu peraturan yang memungkinkan perusahaan untuk membuat klaim yang luas dan terdengar ilmiah namun tidak selalu lolos dari pengawasan. Ini mungkin merupakan hal yang baik untuk dilakukan, tetapi ini legal. Alat AI hanya mewarisi keterampilan linguistik yang ada.

Perusahaan-perusahaan berhati-hati dalam menjaga aplikasi agar tidak masuk dalam pengawasan FDA dan memberikan kekebalan hukum pada tingkat tertentu. Hal ini terlihat tidak hanya dalam salinan pemasaran tetapi juga dalam cetakan kecil, jika Anda berhasil membacanya. Sebagian besar alat kesehatan AI menekankan, terkubur di suatu tempat di situs mereka atau di dalam istilah, menyatakan bahwa alat tersebut bukan pengganti perawatan profesional dan tidak dimaksudkan untuk mendiagnosis atau mengobati penyakit. Namun secara hukum, hal ini menghentikan pengklasifikasian perangkat tersebut sebagai perangkat medis Bukti semakin banyak Anjurkan agar orang menggunakannya untuk terapi dan dapat mengakses peralatan tanpa pengawasan klinis.

Ash, aplikasi terapi konsumen dari Slingshot AI, secara jelas dan samar-samar dipasarkan untuk “kesehatan emosional”, sementara Headspace, pesaing Lyra di bidang kesehatan perusahaan, mengklaim “pendamping AI” Ebb adalah “sahabat baru pikiran Anda”. Semua produk tersebut menekankan statusnya sebagai produk kesehatan, bukan sebagai alat terapeutik yang akan memenuhi syarat sebagai perangkat medis. Bahkan bot tujuan umum seperti ChatGPT membawa peringatan serupa, dengan tegas menolak penggunaan medis formal apa pun. Pesannya konsisten: berbicara dan bertindak seperti terapi, namun katakan bahwa itu bukan terapi.

Regulator mulai menaruh perhatian. FDA adalah ditentukan Sebuah kelompok penasihat akan berkumpul pada tanggal 6 November untuk membahas perangkat perawatan kesehatan mental yang didukung AI, meskipun masih belum jelas apakah hal ini akan dilanjutkan karena penutupan pemerintah.

Lira dapat memainkan permainan berisiko dengan “AI tingkat klinis” mereka. “Saya pikir mereka akan semakin dekat dengan batasan diagnosis, pengobatan, dan segala hal lainnya yang akan mendorong mereka ke dalam definisi perangkat medis,” kata Horvath.

Sementara itu, Gilbert berpendapat bahwa perusahaan AI seharusnya menyebutnya demikian. “Tidak masuk akal membicarakan ‘tingkat klinis’ dan berpura-pura tidak menyediakan alat klinis,” katanya.