Felhívta mobilon a mesterséges intelligencia és pénzt kért a gyereküknek

Az állítólagos ügyvéd azt mondta, hogy az unokájuk börtönben van, pénztárca és mobiltelefon nélkül, és készpénzre van szüksége az óvadékhoz, mert az autójával halálra gázolt egy diplomatát. A The Washington Post tudósítása szerint a telefonáló mesterséges intelligencia által generált, a fiukéra hasonlító hanggal tévesztette meg a szülőket. Az álügyvéd azt magyarázta, hogy 21 ezer dollárra van azonnal szükség jogi költségekre, mielőtt az ügy bírósági szakaszba jut.

A nagyszülők összeszedték a készpénzt, és kívánságra bitcoinon keresztül elküldték – később ugyan már azt állították, hogy szerintük is furcsán hangzott a sürgető hangú telefonhívás. Rendőrségi feljelentést tettek, de hát a pénz elment, erre nincs biztosítás.

A The Post szerint a fiú hangját a csaló vélhetően YouTube videókból szerezte be és beszédgenerátorral tanította be az átveréshez szükséges mondatokra.

Az Amerikai Szövetségi Kereskedelmi Bizottság (Federal Trade Commission) szerint tavaly a leggyakrabban jelentett átverés a szélhámos csalás volt. Az FTC 2022-ben 2,4 millió csalásról kapott bejelentést, ami kevesebb, mint 2021-ben. Az elveszett pénzösszeg azonban magasabb volt, összesen 8,8 milliárd dollár veszteséget jelentettek.

A mesterséges intelligencia technológiákon alapuló átverések megelőzték a ChatGPT és más mesterséges intelligencia botok hatalmas sikerét. 2019-ben egy brit energiavállalat ügyvezető igazgatója több mint 240 000 dollárt utalt át egy magyarországi számlára, mivel úgy hitte, a főnöke ezt kérte tőle egy telefonhívásban.

Januárban az ElevenLabs, a hangklónozással és a szintetikus beszéd eszközeivel foglalkozó kutatólaboratórium a Twitteren szólította meg azokat, akik „rosszindulatú célokra használják technológiájukat”.

Az eszközt többek között arra használták, hogy hírességek szájába adtak olyan beszédeket, amelyek sohasem hangzottak el: például Emma Watson szavalt Adolf Hitler Mein Kampf című művéből. Az ElevenLabs közölte, hogy biztosítékokat épít a szoftverbe a visszaélések megakadályozására, s többek között megtiltja az ingyenes felhasználóknak, hogy egyéni hangokat hozzanak létre, valamint egy olyan eszközt készítenek, amelyik észleli és beazonosítja a mesterséges hangot.

A Motherboard szerint a 4chan hackercsapat tagjai az ElevenLabs technológiáját használva hírességek hangján mondatnak rasszista és hazug beszédeket.

Az FTC új hivatalt létesített, amely vizsgálja a mesterséges intelligencia által létrehozott kockázatokat.