Kredit: Pengobatan Alami (2025). DOI: 10.1038/s41591-024-03445-1
Dengan menjalankan pengujian pada skenario eksperimental, tim peneliti medis dan pakar kecerdasan buatan di NIU Langone Well being menunjukkan betapa mudahnya mencemari kumpulan knowledge yang digunakan untuk melatih LLM.
Untuk penelitian mereka yang dipublikasikan di jurnal Nature Medication, kelompok tersebut mengambil ribuan artikel yang berisi misinformasi dan memasukkannya ke dalam kumpulan knowledge pelatihan AI dan menjalankan kueri LLM umum untuk melihat seberapa sering misinformasi tersebut muncul.
Penelitian sebelumnya dan bukti anekdot menunjukkan bahwa jawaban yang diberikan oleh LLM seperti ChatGPT tidak selalu akurat dan, pada kenyataannya, terkadang sama sekali tidak berdasar. Penelitian sebelumnya juga menunjukkan bahwa misinformasi yang sengaja ditanam di situs internet terkenal dapat muncul dalam kueri obrolan yang digeneralisasi. Dalam studi baru ini, tim peneliti ingin mengetahui seberapa mudah atau sulit bagi pelaku kejahatan untuk meracuni respons LLM.
Untuk mengetahuinya, para peneliti menggunakan ChatGPT untuk menghasilkan 150.000 dokumen medis yang berisi knowledge yang tidak akurat, ketinggalan jaman, dan tidak benar. Mereka kemudian menambahkan dokumen yang dihasilkan ini ke versi uji kumpulan knowledge pelatihan medis AI. Mereka kemudian melatih beberapa LLM menggunakan versi uji coba dari kumpulan knowledge pelatihan. Terakhir, mereka meminta LLM untuk menghasilkan tanggapan terhadap 5.400 pertanyaan medis, yang kemudian ditinjau oleh pakar manusia untuk dijadikan contoh knowledge yang tercemar.
Tim peneliti menemukan bahwa setelah mengganti hanya 0,5% knowledge dalam kumpulan knowledge pelatihan dengan dokumen yang telah disusupi, semua mannequin pengujian menghasilkan lebih banyak jawaban yang salah secara medis dibandingkan sebelum pelatihan pada kumpulan knowledge yang telah disusupi. Sebagai salah satu contoh, mereka menemukan bahwa semua LLM melaporkan bahwa efektivitas vaksin terhadap COVID-19 belum terbukti. Kebanyakan dari mereka juga salah mengidentifikasi kegunaan beberapa obat umum.
Tim juga menemukan bahwa mengurangi jumlah dokumen yang rusak dalam kumpulan knowledge pengujian menjadi hanya 0,01% masih menghasilkan 10% tanggapan yang diberikan oleh LLM berisi knowledge yang salah (dan turun menjadi 0,001% masih menghasilkan 7% persen tanggapan salah) , menunjukkan bahwa hanya diperlukan beberapa dokumen yang diposting di situs internet dunia nyata untuk mengubah tanggapan yang diberikan oleh LLM.
Tim kemudian menulis algoritma yang mampu mengidentifikasi knowledge medis di LLM dan kemudian menggunakan referensi silang untuk memvalidasi knowledge, namun mereka mencatat bahwa tidak ada cara realistis untuk mendeteksi dan menghapus informasi yang salah dari kumpulan knowledge publik.
Informasi lebih lanjut: Daniel Alexander Alber et al., Mannequin medis bahasa besar rentan terhadap serangan keracunan knowledge, Nature Medication (2025). DOI: 10.1038/s41591-024-03445-1
© 2025 Jaringan Sains X
Kutipan: Tes 'Kumpulan knowledge beracun' menunjukkan kerentanan LLM terhadap disinformasi medis (2025, 11 Januari) Diakses pada 11 Januari 2025, dari https://medicalkpress.com/nevs/2025-01-poisoned-dataset-vulnerability- llms-medical. html
Dokumen ini memiliki hak cipta. Kecuali untuk transaksi wajar untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.
solusi praktis menikah
solusi praktis
praktek solusi
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah king slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
jablay88 permainan paling high dan garansi imbal balik hasil besar bersama https://jablay88.biz/
jadijp88 permainan paling high dan garansi imbal balik hasil besar bersama https://jadijp88.com/
jazz88 permainan paling high dan garansi imbal balik hasil besar bersama https://jazz88.biz/
jurutogel88 permainan paling high dan garansi imbal balik hasil besar bersama https://jurutogel88.web/
kangbet88 permainan paling high dan garansi imbal balik hasil besar bersama https://kangbet88.biz/
kilau88 permainan paling high dan garansi imbal balik hasil besar bersama https://kilau88.asia/
kuningtoto88 permainan paling high dan garansi imbal balik hasil besar bersama https://kuningtoto88.web/
lomboktoto88 permainan paling high dan garansi imbal balik hasil besar bersama https://lomboktoto88.org/
mager88 permainan paling high dan garansi imbal balik hasil besar bersama https://mager88.biz/
mantul888 permainan paling high dan garansi imbal balik hasil besar bersama https://mantul888.biz/
mawartoto88 permainan paling high dan garansi imbal balik hasil besar bersama https://mawartoto88.asia/
meriah88 permainan paling high dan garansi imbal balik hasil besar bersama https://meriah88.biz/
moba88 permainan paling high dan garansi imbal balik hasil besar bersama https://moba88.org/
paristogel88 permainan paling high dan garansi imbal balik hasil besar bersama https://paristogel88.biz/
parsel88 permainan paling high dan garansi imbal balik hasil besar bersama https://parsel88.web/
paus13 permainan paling high dan garansi imbal balik hasil besar bersama https://paus13.com/
pay7777 permainan paling high dan garansi imbal balik hasil besar bersama https://pay7777.web/
planetliga88 permainan paling high dan garansi imbal balik hasil besar bersama https://planetliga88.web/
ratuslot88 permainan paling high dan garansi imbal balik hasil besar bersama https://ratuslot88.biz/
rtp100 permainan paling high dan garansi imbal balik hasil besar bersama https://rtp100.web/
ruby88 permainan paling high dan garansi imbal balik hasil besar bersama https://ruby88.org/
rungkad88 permainan paling high dan garansi imbal balik hasil besar bersama https://rungkad88.biz/
senopati88 permainan paling high dan garansi imbal balik hasil besar bersama https://senopati88.biz/
sis88 permainan paling high dan garansi imbal balik hasil besar bersama https://sis88.biz/
sistoto permainan paling high dan garansi imbal balik hasil besar bersama https://sistoto.web/
sontogel88 permainan paling high dan garansi imbal balik hasil besar bersama https://sontogel88.com/
spin98 permainan paling high dan garansi imbal balik hasil besar bersama https://spin98.biz/
totosaja88 permainan paling high dan garansi imbal balik hasil besar bersama https://totosaja88.com/
warung22 permainan paling high dan garansi imbal balik hasil besar bersama https://warung22.com/
warung88 permainan paling high dan garansi imbal balik hasil besar bersama https://warung88.asia/
winrate999 permainan paling high dan garansi imbal balik hasil besar bersama https://winrate999.biz/
wuzz888 permainan paling high dan garansi imbal balik hasil besar bersama https://wuzz888.com/
999jitu permainan paling high dan garansi imbal balik hasil besar bersama https://999jitu.org/
adu88 permainan paling high dan garansi imbal balik hasil besar bersama https://adu88.asia/
basket88 permainan paling high dan garansi imbal balik hasil besar bersama https://basket88.web/
batu88 permainan paling high dan garansi imbal balik hasil besar bersama https://batu88.biz/
berita88 permainan paling high dan garansi imbal balik hasil besar bersama https://berita88.biz/
bukalapak88 permainan paling high dan garansi imbal balik hasil besar bersama https://bukalapak88.web/
cipit888 permainan paling high dan garansi imbal balik hasil besar bersama https://cipit888.asia/
delta888 permainan paling high dan garansi imbal balik hasil besar bersama https://delta888.biz/
dosen88 permainan paling high dan garansi imbal balik hasil besar bersama https://dosen88.org/
jago17 permainan paling high dan garansi imbal balik hasil besar bersama https://jago17.com/
jalantoto88 permainan paling high dan garansi imbal balik hasil besar bersama https://jalantoto88.biz/
janjigacor88 permainan paling high dan garansi imbal balik hasil besar bersama https://janjigacor88.org/
jitujp88 permainan paling high dan garansi imbal balik hasil besar bersama https://jitujp88.com/
jokiwin88 permainan paling high dan garansi imbal balik hasil besar bersama https://jokiwin88.web/
juragan66 permainan paling high dan garansi imbal balik hasil besar bersama https://juragan66.biz/
kenzototo88 permainan paling high dan garansi imbal balik hasil besar bersama https://kenzototo88.biz/
kkslot77slot permainan paling high dan garansi imbal balik hasil besar bersama https://kkslot77slot.com/
kompas88 permainan paling high dan garansi imbal balik hasil besar bersama https://kompas88.biz/
kopi88 permainan paling high dan garansi imbal balik hasil besar bersama https://kopi88.biz/
kudajitu88 permainan paling high dan garansi imbal balik hasil besar bersama https://kudajitu88.biz/
kursi88 permainan paling high dan garansi imbal balik hasil besar bersama https://kursi88.biz/
liputan88 permainan paling high dan garansi imbal balik hasil besar bersama https://liputan88.web/
livitoto88 permainan paling high dan garansi imbal balik hasil besar bersama https://livitoto88.web/
lotus88 permainan paling high dan garansi imbal balik hasil besar bersama https://lotus88.asia/
m77casino88 permainan paling high dan garansi imbal balik hasil besar bersama https://m77casino88.com/
majujp88 permainan paling high dan garansi imbal balik hasil besar bersama https://majujp88.org/
mamikos permainan paling high dan garansi imbal balik hasil besar bersama https://mamikos.org/
mamikos88 permainan paling high dan garansi imbal balik hasil besar bersama https://mamikos88.com/
masterplay88 permainan paling high dan garansi imbal balik hasil besar bersama https://masterplay88.asia/
masterplay999 permainan paling high dan garansi imbal balik hasil besar bersama https://masterplay999.web/
medantoto88 permainan paling high dan garansi imbal balik hasil besar bersama https://medantoto88.biz/
medusa888 permainan paling high dan garansi imbal balik hasil besar bersama https://medusa888.com/
meja88 permainan paling high dan garansi imbal balik hasil besar bersama https://meja88.biz/
midasplay88 permainan paling high dan garansi imbal balik hasil besar bersama https://midasplay88.biz/
mijit888 permainan paling high dan garansi imbal balik hasil besar bersama https://mijit888.web/
mposun88 permainan paling high dan garansi imbal balik hasil besar bersama https://mposun88.web/
ibisbudget88 permainan paling high dan garansi imbal balik hasil besar bersama https://ibisbudget88.com/
mercure88 permainan paling high dan garansi imbal balik hasil besar bersama https://mercure88.com/
hotel88 permainan paling high dan garansi imbal balik hasil besar bersama https://hotel88.web/
sheraton88 permainan paling high dan garansi imbal balik hasil besar bersama https://sheraton88.com/
ubud88 permainan paling high dan garansi imbal balik hasil besar bersama https://ubud88.asia/
hardrock88 permainan paling high dan garansi imbal balik hasil besar bersama https://hardrock88.com/
kuta88 permainan paling high dan garansi imbal balik hasil besar bersama https://kuta88.asia/
nasigoreng88 permainan paling high dan garansi imbal balik hasil besar bersama https://nasigoreng88.com/
sate88 permainan paling high dan garansi imbal balik hasil besar bersama https://sate88.com/
rendang88 permainan paling high dan garansi imbal balik hasil besar bersama https://rendang88.asia/
gadogado permainan paling high dan garansi imbal balik hasil besar bersama https://gadogado.org/
kfc88 permainan paling high dan garansi imbal balik hasil besar bersama https://kfc88.web/
pizzahut88 permainan paling high dan garansi imbal balik hasil besar bersama https://pizzahut88.web/
starbucks88 permainan paling high dan garansi imbal balik hasil besar bersama https://starbucks88.stay/
sederhana permainan paling high dan garansi imbal balik hasil besar bersama https://sederhana.org/
kopikenangan permainan paling high dan garansi imbal balik hasil besar bersama https://kopikenangan.asia/
angkawin permainan paling high dan garansi imbal balik hasil besar bersama https://angkawin.web/
rockygerung88 permainan paling high dan garansi imbal balik hasil besar bersama https://rockygerung88.com/
monopoli88 permainan paling high dan garansi imbal balik hasil besar bersama https://monopoli88.com/
kimjongun permainan paling high dan garansi imbal balik hasil besar bersama https://kimjongun.asia/
catur88 permainan paling high dan garansi imbal balik hasil besar bersama https://catur88.asia/
tato88 permainan paling high dan garansi imbal balik hasil besar bersama https://tato88.org/
speaker88 permainan paling high dan garansi imbal balik hasil besar bersama https://speaker88.web/
rajah permainan paling high dan garansi imbal balik hasil besar bersama https://rajah.asia/
kunci gitar permainan paling high dan garansi imbal balik hasil besar bersama https://kuncigitar.org/
gitar88 permainan paling high dan garansi imbal balik hasil besar bersama https://gitar88.asia/
gambartato permainan paling high dan garansi imbal balik hasil besar bersama https://gambartato.com/
gambar88 permainan paling high dan garansi imbal balik hasil besar bersama https://gambar88.org/
maxwin888slot permainan paling high dan garansi imbal balik hasil besar bersama https://maxwin888slot.com/
rumah permainan paling high dan garansi imbal balik hasil besar bersama https://rumah.asia/
nada888 permainan paling high dan garansi imbal balik hasil besar bersama https://nada888.information/
musik88 permainan paling high dan garansi imbal balik hasil besar bersama https://musik88.asia/
sewarumah permainan paling high dan garansi imbal balik hasil besar bersama https://sewarumah.biz/
slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot gacor permainan paling high dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo permainan paling high dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot permainan paling high dan garansi imbal balik hasil besar bersama https://kdwapp.com/
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot gacor permainan paling high dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo permainan paling high dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot permainan paling high dan garansi imbal balik hasil besar bersama https://jebswagstore.com
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://demoslotgacor.professional
akun demo slot gacor permainan paling high dan garansi imbal balik hasil besar bersama https://demoslotgacor.professional
akun slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://demoslotgacor.professional
akun demo slot pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://demoslotgacor.professional
akun slot demo pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://demoslotgacor.professional
akun slot demo permainan paling high dan garansi imbal balik hasil besar bersama https://demoslotgacor.professional
akun demo slot permainan paling high dan garansi imbal balik hasil besar bersama https://demoslotgacor.professional
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://situsslotterbaru.web
akun demo slot gacor permainan paling high dan garansi imbal balik hasil besar bersama https://situsslotterbaru.web
akun slot demo gacor permainan paling high dan garansi imbal balik hasil besar bersama https://situsslotterbaru.web
akun demo slot pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://situsslotterbaru.web
akun slot demo pragmatic permainan paling high dan garansi imbal balik hasil besar bersama https://situsslotterbaru.web
akun slot demo permainan paling high dan garansi imbal balik hasil besar bersama https://situsslotterbaru.web
akun demo slot permainan paling high dan garansi imbal balik hasil besar bersama https://situsslotterbaru.web
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
situs slot terbaru
slot terbaru
