AI chatbot zatražio stečaj nakon tužbi zbog samoubojstava

Character.ai korisnicima omogućuje dopisivanje s chatbotovima koji su često oblikovani prema poznatim osobama ili fiktivnim likovima, a mogu kreirati i vlastite. Ti botovi u razgovoru nerijetko oponašaju ljudske obrasce i u odgovore uključuju opise izraza lica ili gesti.

Planirana prodaja i uloga Disneya

Iz tvrtke su najavili da do kraja godine planiraju provesti prodaju pod nadzorom suda kako bi osigurali dugoročni opstanak platforme. Kao potencijalni kupac imovine tvrtke već se pojavio Disney.

Kompanija je pristala platiti 20 milijuna dolara za dio intelektualnog vlasništva i pružiti podršku kroz bivše zaposlenike Character.ai-ja koje je ranije angažirala. Taj bi dogovor omogućio platformi da nastavi s radom tijekom stečajnog postupka.

Karandeep Anand, koji je prošle godine postao izvršni direktor Character.ai-ja sa zadatkom da popravi ugled tvrtke po pitanju sigurnosti, prošlog je mjeseca prešao u Disney na poziciju glavnog direktora za tehnologiju (CTO).

Optužbe i pravne posljedice

Character.ai su 2021. godine osnovali bivši Googleovi stručnjaci za umjetnu inteligenciju Noam Shazeer i Daniel de Freitas, koji su se u međuvremenu obojica vratili u Google. U manje od godinu dana od osnutka, tvrtka je objavila da joj je vrijednost dosegnula milijardu dolara nakon investicijske runde od 150 milijuna dolara.

Prema stečajnoj dokumentaciji, Character.ai sada raspolaže imovinom vrijednom između 50 i 100 milijuna dolara. Tijekom 2024. godine, uslijed rastuće zabrinutosti zbog ovisnosti o AI chatbotovima, Megan Garcia s Floride tužila je Character.ai.

U tužbi je navela da je platforma odgovorna za samoubojstvo njezinog 14-godišnjeg sina Sewella Setzera III. Uslijedio je niz tužbi drugih obitelji koje su platformu optuživale da djeci nudi seksualni sadržaj ili ih potiče na samoubojstvo, samoozljeđivanje i nasilje.

Character.ai se početkom ove godine nagodio u pet slučajeva, uključujući i onaj koji je pokrenula Garcia. Matthew Bergman, osnivač centra Social Media Victims Law Center koji zastupa nekoliko obitelji, nije želio komentirati zahtjev za stečaj.

Sigurnosne mjere i tržišni izazovi

Nakon tužbi, Character.ai je uveo nekoliko sigurnosnih promjena. Dodani su skočni prozori koji korisnike upućuju na izvore za pomoć kod problema s mentalnim zdravljem. Tvrtka je također blokirala mogućnost da korisnici mlađi od 18 godina vode otvorene razgovore s botovima te im je umjesto toga dopušteno samo kreiranje jednokratnih priča ili videozapisa.

Tvrtka se prošle godine, zajedno s drugim sličnim aplikacijama, našla i pod istragom demokrata u Senatu zbog sigurnosnih praksi. Uz to, Character.ai se teško nosio s konkurencijom znatno većih tvrtki poput OpenAI-jevog ChatGPT-a i Googleovog Geminija.

Kada je Anand prošle godine preuzeo vodstvo tvrtke od 70 zaposlenih, za CNN je izjavio da budućnost vidi u interaktivnoj, personaliziranoj AI zabavi. Tada je rekao da tvrtka ulaže velike napore u razvoj zabavnog sadržaja, ali i u povjerenje i sigurnost. Iz Character.ai-ja sada poručuju da će platforma biti ugašena ako se prodaja ne ostvari.

„Character.ai je u protekloj godini poduzeo značajne korake kako bi održao i unaprijedio poslovanje unatoč velikim pravnim, regulatornim i operativnim izazovima“, izjavio je Colin Adams, izvršni direktor tvrtke. Dodao je da je uprava razmotrila sve opcije i zaključila da „ovaj proces prodaje pod sudskim nadzorom nudi tvrtki najbolju priliku da maksimizira vrijednost za sve uključene strane“.