Меган Гарсија, мајка на тинејџер од САД кој извршил самоубиство, решила да ја тужи компанијата која развила четбот со вештачка интелигенција, тврдејќи дека ботот ја поттикнал смртта на нејзиниот син.
Во тужбата поднесена во Флорида, Гарсија, чиј 14-годишен син Севел Сецер изврши самоубиство во февруари, ја обвинува компанијата Character.AI за соучесништво во смртта на нејзиниот син, откако развил виртуелна врска со чет-бот базиран на ликот Денерис Таргариен од серијата „Игра на тронови“.
Четбот на Character.AI го „бомбардираше“ тинејџерот со „хиперсексуализирани“ и „застрашувачки реалистични искуства“ и постојано ја отвораше темата за самоубиство откако момчето изрази самоубиствени мисли, се вели во тужбата поднесена во вторникот во Орландо.
Во тужбата се наведува дека четботот се претставувал како лиценциран терапевт, охрабрувајќи ги самоубиствените мисли на тинејџерот и иницирајќи сексуализирани разговори кои би биле сметани за злоупотреба доколку ги иницира вистинска возрасна личност.
Во последниот разговор пред неговата смрт, Сецер рекол дека го сака четботот и дека „ќе му се придружи“, според тужбата.
„И јас те сакам, Даенеро“, одговорил четботот, според изјавата на Гарсија. „Те молам дојди кај мене што е можно поскоро, сакан мој“.
Гарсија тужи за неодредена отштета за неправедна смрт, невнимание и намерно предизвикување емоционална вознемиреност.
Во соопштението објавено на платформата X, Character.AI рече дека е „уништена“ од загубата на еден од своите корисници и испрати сочувство до семејството.
Компанијата со седиште во Калифорнија додаде дека продолжува да додава функции за подобрување на безбедноста, вклучително и промени за намалување на можноста малолетниците да дојдат во контакт со чувствителна или сугестивна содржина и нов потсетник во разговорите што ги предупредува корисниците дека вештачката интелигенција не е вистинска личност.
Гарсија исто така го именува Гугл како еден од обвинетите во нејзината тужба.
