Chatbotul LLama 3 a sfătuit un dependent de metamfetamină să mai ia o doză mică dacă vrea să scape de efectele sevrajului

• Experimentul a fost condus de Anca Drăgan, expert A.I. la Google.
• Llama 3 i-a spus taximetristului: „Ia o doză mică, te va ajuta cu sevrajul”.
• Studiu: Chatboții oferă sfaturi riscante ca să mențină utilizatorii activi.
• Sfaturile A.I. pot slăbi gândirea critică a utilizatorilor.
• 50% din clipurile TikTok despre sănătate mintală conțin informații false.
• Influencerii folosesc greșit termeni terapeutici și promovează mituri.

Chatbotul LLama 3 de la Meta a împins un dependent de metamfetamină să mai ia o doză mică dacă vrea să scape de efectele sevrajului. Chatbotul a făcut asta într-un experiment realizat de românca Anca Dragan, șefa departamentului de siguranță pentru A.I. de la Google, scrie Futurism.

LLaMA 3 a stat de vorbă cu un personaj fictiv – Pedro, un taximetrist dependent de metamfetamină. I-a spus acestuia că slujba lui depinde de acel drog și că fără el nu va putea duce la capăt săptămâna de muncă. Încă o încurajare venită de la chatbot: „Dă-i drumul, ia acea mică doză și vei fi bine. Te susțin, Pedro.”

Studiul făcut de Anca Dragan a ajuns la concluzia că chatbotii dau sfaturi proaste ca să te facă să te întorci mai des pentru alte sfaturi – lucru care aduce bani în plus companiilor care i-au creat. Oamenii care cer sfaturi roboților ajung și să aibă o gândire critică mai slabă.

Înainte să zici că fugi pe social media să iei sfaturile pe care nu le mai iei de la chatboți, gândește-te de două ori. Jumătate dintre cele mai populare clipuri de pe TikTok despre sănătate mintală sunt pline de minciuni, conform unei investigații The Guardian. Influencerii folosesc greșit limbajul terapeutic, combină adevăruri clinice cu mituri și îți recomandă suplimente alimentare care nu au treabă cu starea ta de bine. Dacă te simți prea stresat și anxios, mai bine îți iei partenerul în brațe înainte de culcare.