Non esplodente
Adolescente si suicida per la fidanzata di intelligenza artificiale, causa causa
Il software AI è diventato sempre più pericoloso.
Un ragazzo di 14 anni è morto dopo essere morto per suicidio dopo essere stato incoraggiato a farlo dalla sua fidanzata di intelligenza artificiale.
Sewell Setzer è morto per suicidio dopo una ferita da arma da fuoco autoinflitta alla testa il 28 febbraio di quest’anno in Florida. La madre di Setzer, Megan Garcia, ora sta facendo causa alla compagnia del chatbot, Personaggio.aisostenendo che la piattaforma è responsabile del fatto che suo figlio si toglie la vita.
Nella sua causa, Garcia afferma che la piattaforma era troppo sessualizzata e che rappresentava un pericolo perché era commercializzata ai minori. In un’intervista con Notizie della CBSGarcia ha detto che non era a conoscenza del fatto che suo figlio aveva una relazione virtuale che è durata per mesi e ha posto sentimenti emotivi e sessuali molto reali.
“Non sapevo che stesse parlando con un chatbot di intelligenza artificiale molto umana che ha la capacità di imitare l’emozione umana e il sentimento umano”, ha detto. Mentre riconosceva che le cose con suo figlio erano state diverse, non avrebbe mai immaginato che fosse dovuto all’intelligenza artificiale.
“Mi sono preoccupato quando andavamo in vacanza e non voleva fare cose che amava, come pescare e fare escursioni”, ha detto Garcia. “Quelle cose per me, perché conosco mio figlio, erano particolarmente preoccupanti per me.”
Psst … controlla “Ok to chiedi” apre la conversazione su argomenti difficili tra i genitori
Setzer utilizzava la piattaforma per mesi, scambiando messaggi romantici con il chatbot di nome Daenerys Targaryen. Nelle sue ultime ore, la conversazione tra Setzer e l’IA Chatbot è stata intensa, con Setzer che esprimeva paura e tristezza e la macchina lo ha convinto per “tornare a casa” per lei.
“Mi manchi anche tu,” disse il chatbot. “Per favore, torna a casa da me.” Setzer ha risposto chiedendo: “E se ti dicessi che avrei potuto tornare a casa in questo momento?” La risposta del chatbot fu: “Per favore, fai il mio dolce re”.
Quelli erano gli scambi finali prima che Setzer togliesse la vita. Garcia ha detto che suo figlio di cinque anni, il fratello di Setzer, ha visto le conseguenze.
“Quando lo sparo, sono corso in bagno, lo tenevo mentre mio marito cercava di chiedere aiuto”, ha detto Garcia alla CBS. “Ha pensato di porre fine alla sua vita qui, sarebbe stato in grado di entrare in una realtà virtuale o” il suo mondo “come la chiama, la sua realtà, se avesse lasciato la sua realtà con la sua famiglia qui.”
Il personaggio dell’azienda.ai, di proprietà di Google, ha rilasciato a Post di blog Martedì, condivisione delle norme e dei regolamenti di sicurezza della comunità aggiornati per gli utenti di età inferiore ai 18 anni. Le modifiche includono la riduzione della probabilità che i minori incontrino contenuti sensibili o suggestivi e il miglioramento del rilevamento, della risposta e dell’intervento a contenuti inappropriati.
“Come azienda, prendiamo molto sul serio la sicurezza dei nostri utenti”, ha detto un portavoce del personaggio. Notizie NBCe che sono “spezzati per la tragica perdita di uno dei nostri utenti e desiderano[s] esprimere le nostre più profonde condoglianze alla famiglia. “
Praticare la sicurezza con l’IA
La sfortunata morte di Setzer è un duro promemoria per i genitori di rimanere aggiornati con l’intelligenza artificiale. Secondo Barnacirca il 73 % dei genitori è preoccupato per i rischi per la privacy e la sicurezza associati all’intelligenza artificiale quando i loro figli lo usano. Ancora solo 40 percento erano a conoscenza di una fonte di informazioni affidabili per saperne di più sull’intelligenza artificiale e su come potesse beneficiare gli studenti.
L’intelligenza artificiale è diventata sempre più presente in quasi tutto ciò che facciamo. Mentre ha i suoi aspetti positivi come varie tecniche di insegnamento e informazioni, la tragica morte di Setzer ci ricorda di praticare la sicurezza e la responsabilità con il software e di informare i nostri figli su come rimanere al sicuro. Ecco alcuni suggerimenti che puoi esercitarti per aiutare i tuoi figli al sicuro.
- Sensibilità dei dati: Mentre l’IA è ottima per le informazioni, vuoi insegnare ai tuoi figli a non condividere mai dati personali o informazioni su una piattaforma online. Informazioni come nomi, compleanni, indirizzi e dove frequentano la scuola sono informazioni estremamente sensibili e dovrebbero essere fornite solo a un adulto di vita reale.
- Controlli dei genitori: I controlli dei genitori sono un ottimo modo per limitare le interazioni che tuo figlio ha online e con intelligenza artificiale. È possibile disattivare le funzionalità come il monitoraggio della posizione e la registrazione vocale per garantire che il bambino sia sicuro.
- App di monitoraggio: È indispensabile monitorare le attività quotidiane di tuo figlio. Il monitoraggio ti consente di essere aggiornato con il tipo di giochi o interazioni che tuo figlio sta avendo online e può aiutare a prevenire attività catastrofiche tra cui i predatori informatici e online.
Psst … controlla Genitori che agiscono: come puoi rendere i social media più sicuri per bambini e adolescenti
