Secret Mayo Clinic Senjata Rahasia Melawan Halus Halus

Meskipun model LLMS menjadi lebih canggih dan pernah mampu, mereka masih memiliki halusinasi: memberikan informasi yang tidak akurat, atau, untuk membuatnya lebih kejam.

Ini bisa sangat berbahaya di bidang -bidang seperti perawatan kesehatan, di mana informasi yang salah dapat memiliki hasil yang keras.

May ClinicDan salah satu rumah sakit bertingkat tertinggi di Amerika Serikat, telah mengadopsi teknologi baru untuk mengatasi tantangan ini. Untuk mencapai kesuksesan, fasilitas medis harus mengatasi perbatasan generasi pengambilan (RAG). Ini adalah proses yang menggunakan model LLMS menarik informasi dari sumber data yang relevan spesifik. Rumah sakit menggunakan apa yang terutama terbelakang, karena formulir diekstraksi dari informasi yang relevan, kemudian menghubungkan semua data ke konten sumber asli.

Sangat mengejutkan bahwa ini telah menyebabkan penghapusan semua halusinasi berbasis data dalam kasus non-diagnostik-yang memungkinkan Maya untuk membayar model melalui praktik klinisnya.

“Melalui pendekatan ini untuk merujuk pada informasi sumber melalui tautan, ekstraksi data ini tidak lagi menjadi masalah,” kata Matthew Kulstrom, direktur medis strategi MIWA dan kepala radiologi, untuk VentureBeat.

Akun untuk setiap titik data

Berurusan dengan data perawatan kesehatan adalah tantangan yang kompleks – dan bisa menjadi waktu tenggelam. Meskipun sejumlah besar data dikumpulkan dalam catatan kesehatan elektronik (EHR), data mungkin sangat sulit untuk menemukannya.

Penggunaan pertama Mayo International untuk Amnesty International untuk mengumpulkan semua data ini adalah ringkasan (kunjungi menghilang dengan tips post -care), dengan modelnya menggunakan kain tradisional. Callstrom menjelaskan, itu adalah tempat yang alami untuk memulai karena merupakan ekstraksi dan ringkasan sederhana, yang umumnya dilampaui oleh LLMS.

“Pada tahap pertama, kami tidak mencoba mencapai diagnosis, karena Anda mungkin bertanya pada model,” apa langkah terbaik untuk pasien ini saat ini? “.

Bahaya Halosa juga hampir penting karena ada dalam skenario asisten dokter; Itu tidak berarti bahwa kesalahan Pakistan bukan tangki kepala.

Callstrom mengatakan: “Dalam pengulangan pertama kami, kami memiliki beberapa halusinasi lucu yang tidak akan Anda toleransi dengan jelas – usia pasien yang salah, misalnya,” kata Callstrom. “Jadi kamu harus membangunnya dengan cermat.”

Meskipun RAG adalah komponen penting dari llms grounding (meningkatkan kemampuannya), teknologi memiliki batasannya. Model dapat memulihkan data yang tidak relevan, tidak akurat atau berkualitas rendah; Dia gagal menentukan apakah informasi tersebut terkait dengan pertanyaan manusia; Atau buat output yang tidak bertepatan dengan format yang diperlukan (seperti teks sederhana alih -alih jadwal terperinci).

Meskipun ada beberapa solusi dalam masalah ini – seperti grafik, sumber grafik mana yang diketahui memberikan konteks, atau kain korektif (tenggorokan) Mekanisme evaluasi mengevaluasi kualitas dokumen yang telah dipulihkan – halusinasi belum hilang.

Lihat setiap titik data

Di sinilah proses kain kembali. Secara khusus, Mei dikaitkan dengan apa yang dikenal sebagai namanya Perakitan menggunakan aktor Algoritma (Pengobatan) dengan database LLM dan vektor untuk menentukan pemulihan data ganda.

Perakitan diperlukan untuk pembelajaran otomatis (ML) karena mengatur, mengklasifikasikan dan menetapkan data grup berdasarkan kesamaan atau pola. Ini terutama membantu model “logis” untuk data. Cure melebihi perakitan khas dengan teknik hierarkis, menggunakan pengukuran jarak data grup berdasarkan kedekatan (pemikiran: data lebih dekat satu sama lain lebih terkait dengan yang terkait satu sama lain). Algoritma ini memiliki kemampuan untuk menemukan “nilai -nilai ekstremis” atau titik data yang tidak cocok dengan orang lain.

Menggabungkan pengobatan dengan pendekatan Rag yang berlawanan, LLM Mayo membagi ringkasan yang dihasilkannya menjadi fakta -fakta individual, kemudian mencocokkannya dengan dokumen sumber. Kemudian LLM kedua mencatat tingkat fakta fakta dengan sumber -sumber ini, khususnya jika ada hubungan sebab akibat antara keduanya.

Callstrom mengatakan: “Setiap titik data kembali ke sumber laboratorium asli atau laporan fotografi,” kata Callstrom. “Sistem menjamin bahwa referensi itu nyata dan akurat dipulihkan, dan secara efektif menyelesaikan sebagian besar halusinasi yang terkait dengan pengambilan.”

Callstrom menggunakan database vektor untuk menemukan catatan pasien terlebih dahulu sehingga model dapat dengan cepat memulihkan informasi. Awalnya menggunakan database lokal untuk membuktikan konsep (POC); Versi produksi adalah database umum dengan logika dalam algoritma pengobatan itu sendiri.

“Dokter sangat skeptis, dan mereka ingin memastikan bahwa mereka tidak diberi kepercayaan,” Callstrom menjelaskan. “Sangat percaya diri bagi kami berarti memeriksa apa pun yang dapat muncul sebagai konten.”

“Minat yang tidak akurat” melalui praktik Mei

Teknik pengobatan telah terbukti berguna untuk mengumpulkan catatan pasien baru juga. Callstrom menjelaskan bahwa catatan eksternal yang memisahkan masalah kompleks pasien dapat berisi “proses” konten data dalam format yang berbeda. Ini harus ditinjau dan diringkas sehingga dokter dapat mengidentifikasi diri mereka sebelum melihat pasien untuk pertama kalinya.

Dia berkata: “Saya selalu menggambarkan catatan medis eksternal seperti spreadsheet: Anda tidak tahu apa yang ada di setiap sel, Anda harus melihat masing -masing untuk menarik konten.”

Tapi sekarang, LLM melakukan ekstraksi, mengklasifikasikan materi dan menciptakan gambaran umum dari pasien. Biasanya, tugas ini mungkin memakan waktu 90 menit atau lebih dari praktisi – tetapi Amnesty International dapat melakukannya sekitar 10, kata Callstrom.

Dia menggambarkan “minat luar biasa” dalam memperluas kemampuan untuk berlatih mungkin untuk membantu mengurangi beban administrasi dan frustrasi.

“Tujuan kami adalah menyederhanakan pemrosesan konten – bagaimana saya bisa meningkatkan kemampuan dan menyederhanakan pekerjaan dokter?” Katanya.

Mengobati masalah yang lebih rumit dengan kecerdasan buatan

Tentu saja, Callstrom dan timnya melihat potensi besar untuk Amnesty International di daerah yang lebih maju. Sebagai contoh, mereka berkolaborasi dengan sistem otak untuk membangun model genetik yang memprediksi apa yang akan menjadi pengobatan terbaik untuk radang sendi pasien, dan mereka juga bekerja dengan Microsoft untuk mengenkripsi gambar dan model basis fotografi.

Proyek fotografi pertama dengan Microsoft adalah X -rays di dada. Sejauh ini mereka telah mentransfer 1,5 juta x -rays dan berencana untuk melakukan 11 juta orang lagi di babak berikutnya. Callstrom menjelaskan bahwa tidak terlalu sulit untuk membangun gambar enkripsi; Kompleksitasnya adalah membuat gambar yang dihasilkan sudah berguna.

Idealnya, tujuannya adalah untuk menyederhanakan cara di mana dokter Mayo memamerkan dada X -rays dan meningkatkan analisis mereka. Amnesty International, misalnya, dapat menentukan tempat di mana mereka harus memasuki tabung di trakea atau garis tengah untuk membantu pasien bernafas. “Tapi ini bisa jauh lebih luas,” kata Callstrom. Misalnya, dokter dapat membuka konten dan data lainnya, seperti prediksi sederhana untuk memecahkan pengusiran – atau jumlah darah yang memompa dari jantung – dari x -rays di dada.

“Sekarang Anda dapat mulai memikirkan respons prediksi terhadap pengobatan pada skala yang lebih besar,” katanya.

Mayo juga melihat “peluang luar biasa” dalam genom (studi DNA), serta area “omic” lainnya, seperti protein (studi protein). Kecerdasan buatan dapat mendukung salinan gen, atau proses menyalin urutan DNA, untuk membuat titik referensi untuk pasien lain dan membantu membangun profil risiko atau jalur pengobatan untuk penyakit kompleks.

“Jadi pada dasarnya Anda menarik pasien terhadap pasien lain, membangun setiap pasien di sekitar kelompok,” Callstrom menjelaskan. “Inilah yang benar -benar akan diberikan oleh Obat Pribadi:” Anda terlihat seperti pasien -pasien lain ini, ini adalah bagaimana kita harus menghadapi untuk melihat hasil yang diharapkan.

Tetapi Callstrom menekankan bahwa segala sesuatu di sisi diagnosis membutuhkan lebih banyak pekerjaan. Adalah satu hal untuk menunjukkan bahwa model Genome Foundation bekerja pada rheumatoid arthritis; Ini adalah verifikasi terakhir dari ini di lingkungan klinis. Para peneliti harus mulai menguji koleksi data kecil, kemudian secara bertahap memperluas kelompok tes dan membandingkan pengobatan tradisional atau standar.

“Kamu tidak segera pergi,” hei, mari kita lewati metotoksit “(obat rheumatoid arthritis terkenal), dia menunjukkan.

Pada akhirnya: “Kami menyadari kemampuan luar biasa dari ini (model) untuk benar -benar mengubah cara kami peduli dengan pasien dan diagnosis dengan cara yang bermakna, untuk mendapatkan lebih banyak perawatan pasien atau pasien untuk perawatan standar,” kata Callstrom. “Data kompleks yang kami tangani dalam perawatan pasien adalah tempat kami fokus.”