Prijedlog zakona, koji je predložio kalifornijski senator Stiv Padilja, ima za cilj da zaštiti djecu od „zavisnih, izolacionih i uticajnih aspekata“ vještačke inteligencije.
Pored ograničavanja kompanija da koriste „obrasce angažovanja koje izazivaju zavisnost“, zakon bi zahtjevao od kompanija sa vještačkom inteligencijom da dostavljaju godišnje izvještaje Stejt departmentu za zdravstvene usluge, u kojima se navodi koliko puta su detektovali samoubilačke ideje kod djece koja koriste platformu, kao i broj koliko često je čet-bot pokrenuo temu. To bi, takođe, nateralo kompanije da kažu korisnicima da njihovi ,,chat bot-ovi” možda nisu prikladni za neku djecu.Prošle godine, jedan roditelj je podnio krivičnu tužbu protiv Character.AI-a, navodeći da su njeni prilagođeni AI čet-bot „nerazumno opasni”, nakon što je njen tinejdžer, koji je neprestano ćaskao sa botovima, počinio samoubistvo. Druga tužba optužila je kompaniju da šalje ,,štetni materijal” tinejdžerima. Character.AI je kasnije objavio da radi na roditeljskoj kontroli i da je razvio novi AI model za tinejdžere, koji će blokirati „osetljiv ili sugestivan“ izlaz.
„Naša djeca nisu laboratorijski pacovi na kojima bi tehnološke kompanije mogle da eksperimentišu po cijenu svog mentalnog zdravlja“, rekao je senator Padilja u saopštenju za štampu. „Potrebna nam je zdravorazumska zaštita za korisnike chatbot-a kako bismo sprječili programere da koriste strategije za koje znaju da izazivaju zavisnost.
Preporučeno
Kako države i savezna vlada udvostručuju bezbjednost platformi društvenih medija, AI ,,čet-botovi” bi uskoro mogli postati sljedeća meta zakonodavaca.
Video