Koristio umjetnu inteligenciju za kloniranje glasa djevojčice u SAD-u, njezina majka mislila da je oteta

Majka iz Arizone Jennifer DeStefano primila je poziv s nepoznatog broja i čula jecanje svoje 15-godišnje kćeri Brie. No, to zapravo nije bio glas njezine kćeri, nego AI koji je imitirao njezin glas, piše Independent.

– Mama, zabrljala sam…, rekao je glas djevojčice s druge strane slušalice prije nego što je muški glas počeo prijetiti i govoriti svoje zahtjeve. Muškarac je rekao majci da je oteo njezinu kćer.

Majka je za lokalnu informativnu emisiju WKYT ispričala da joj je navodni otmičar rekao da će, ako bude zvala policiju, njezinu kćer “napucati” drogom i ostaviti ju negdje u Meksiku.

“To je sto posto bio njezin glas”

DeStefano je ispričala da je u pozadini mogla čuti svoju kćer kako govori “pomozi mi, mama” i plače.

– To je sto posto bio njezin glas. Nisam uopće posumnjala da to nije glas moje kćeri. I način na koji je plakala je bio isti. Bilo je jezivo., rekla je DeStefano za WKYT.

Lažni otmičar tražio je milijun dolara za puštanje 15-godišnjakinje, a kasnije je cifru spustio na 50.000 dolara. DeStefano je shvatila da je njezina kći na sigurnom tek nakon što je obiteljski prijatelj nazvao njezinog muža i rekao da je djevojčica na sigurnom.

Umjetna inteligencija klonirala glas djevojčice

Čini se da je prevarant, kojeg policija još uvijek istražuje, koristio tehnologiju kloniranja glasa umjetne inteligencije, koja je posljednjih godina postala sve kompetentnija u oponašanju ljudskih glasova.

Također, ta tehnologija je jednostavna za korištenje jer su AI alati besplatno dostupni na internetu. Glasovi generirani umjetnom inteligencijom već su korišteni u filmovima za repliciranje glasova glumaca poput Jamesa Earla Jonesa koji je dao glas originalnom liku Dartha Vadera u Star Warsu.

Tehnologija je također potaknula strahove da bi je mogli zloupotrijebiti prevaranti ili ljudi koji pokušavaju stvoriti deepfake videozapise.

– Usvajanje deepfake tehnologija ubrzat će potrebu za reguliranjem upotrebe tehnologije, rekla je prošle godine u priopćenju tvrtka Respeecher koja se bavi generiranjem glasova umjetnom inteligencijom, prenosi Index.