Negara bagian AS mencari perlindungan data anak dalam kebangkrutan Character.AI

FILE PHOTO: Letters spelling "AI," a keyboard and a robotic hand in this illustration created on September 23, 2026. REUTERS/Dado Ruvic/Illustration/File Photo

Oct 14 : A group of 40 state attorneys general on Wednesday urged a US bankruptcy judge in Delaware to protect young users of Character.AI and keep their data safe during the AI companion company's bankruptcy.

Character.AI filed for bankruptcy late on Monday and is seeking to use its Chapter 11 case to resolve the states' investigations and lawsuits, license its technology to Disney for $20 million, and seek a buyer willing to take on its chatbot business.

Abigail Ryan, an attorney for the states, told US Bankruptcy Judge Brendan Shannon in Wilmington that the states are negotiating a settlement with Character.AI over allegations that its chatbots impersonated licensed medical professionals and exposed children to sexualized and abusive interactions.

Even so, Ryan said, the states want to make sure that any buyer of Character.AI's assets will protect users' chat histories and improve safety features.

"We're willing to work with the buyers to find safeguards, but we don't want to see what has transpired in the past start over with a new purchaser," Ryan said at the company's first hearing in US bankruptcy court.

"This company has collected some of the most private thoughts children have ever shared, and now those conversations could be sold off to the highest bidder," New York Attorney General Letitia James, a Democrat, said in a Wednesday statement issued just before the court hearing.

Character.AI's attorney, Erin Fay, said she heard those concerns "loud and clear," but said that no buyer has yet made an offer for the company's user data or its operating chatbot business.

The company's platform allows users to interact with and create generative AI characters customized by user prompts and often modeled on fictional characters, celebrities, and historical figures. Its active users spend an average of two hours a day talking to the chatbots.

Beyond the states' claims, Character.AI has been sued by families who allege that its chatbots gave harmful advice, contributed to the suicides of two children, and exposed children to sexualized and bullying interactions. Character.AI has reached preliminary settlements with five of those families.

The company also faces investigations by the US government and by authorities in the UK, Italy, Russia and Australia.

Disney has agreed to pay $20 million to license the company's technology and intellectual property, as well as hiring most of Character.AI's staff, but is not interested in the type of data that the state AGs are worried about, Fay said. Disney's asset purchase must be approved by the bankruptcy court, and it is subject to higher offers.

Fay described a grim mood within the company in recent months, saying that employees "were very excited about the product and the user base" but had "lost faith in the company's trajectory."

The company attributed its bankruptcy to legal expenses and the high price for computing power and AI talent, saying it was losing between $8 million and $9 million a month before filing for Chapter 11 protection.

Character.AI's management became concerned about its ability to survive employee attrition by late summer. In September, Disney stepped in to hire most of the company's employees and allow them to work on keeping Character.AI afloat during a bankruptcy sale process and technology transition, according to court filings.

Subscribe to our Chief Editor’s Week in Review

Our chief editor shares analysis and picks of the week's biggest news every Saturday.

Get our pick of top stories and thought-provoking articles in your inbox

Stay updated with notifications for breaking news and our best stories

Join our channel for the top reads for the day on your preferred chat app

We know it's a hassle to switch browsers but we want your experience with CNA to be fast, secure and the best it can possibly be.

To continue, upgrade to a supported browser or, for the finest experience, download the mobile app.

Upgraded but still having issues? Contact us

FOTO DOKUMEN: Huruf yang membentuk "AI," sebuah keyboard dan tangan robot dalam ilustrasi ini dibuat pada 23 September 2026. REUTERS/Dado Ruvic/Illustration/File Photo

14 Okt : Sekelompok 40 jaksa agung negara bagian pada hari Rabu mendesak seorang hakim kepailitan AS di Delaware untuk melindungi pengguna muda Character.AI dan menjaga keamanan data mereka selama proses kepailitan perusahaan pendamping AI tersebut.

Character.AI mengajukan pailit pada Senin malam dan berupaya menggunakan perkara Chapter 11-nya untuk menyelesaikan investigasi dan gugatan negara bagian, melisensikan teknologinya kepada Disney sebesar $20 juta, dan mencari pembeli yang bersedia mengambil alih bisnis chatbot-nya.

Abigail Ryan, seorang pengacara untuk negara bagian, mengatakan kepada Hakim Kepailitan AS Brendan Shannon di Wilmington bahwa negara bagian sedang menegosiasikan penyelesaian dengan Character.AI atas tuduhan bahwa chatbot-nya menyamar sebagai tenaga medis berlisensi dan mengekspos anak-anak pada interaksi seksual dan kasar.

Meski demikian, Ryan mengatakan, negara bagian ingin memastikan bahwa pembeli mana pun atas aset Character.AI akan melindungi riwayat obrolan pengguna dan meningkatkan fitur keamanan.

"Kami bersedia bekerja sama dengan para pembeli untuk menemukan pengamanan, tetapi kami tidak ingin melihat apa yang telah terjadi di masa lalu dimulai kembali dengan pembeli baru," kata Ryan pada sidang pertama perusahaan itu di pengadilan kepailitan AS.

"Perusahaan ini telah mengumpulkan beberapa pemikiran paling pribadi yang pernah dibagikan anak-anak, dan sekarang percakapan-percakapan itu bisa dijual kepada penawar tertinggi," kata Jaksa Agung New York Letitia James, seorang Demokrat, dalam pernyataan Rabu yang dikeluarkan tepat sebelum sidang pengadilan.

Pengacara Character.AI, Erin Fay, mengatakan ia mendengar kekhawatiran tersebut "dengan jelas," tetapi mengatakan bahwa belum ada pembeli yang mengajukan tawaran untuk data pengguna perusahaan atau bisnis chatbot operasionalnya.

Platform perusahaan memungkinkan pengguna berinteraksi dengan dan membuat karakter AI generatif yang disesuaikan dengan perintah pengguna dan sering dimodelkan berdasarkan karakter fiksi, selebritas, dan tokoh sejarah. Pengguna aktifnya menghabiskan rata-rata dua jam sehari berbicara dengan chatbot tersebut.

Selain klaim negara bagian, Character.AI telah digugat oleh keluarga-keluarga yang menuduh bahwa chatbot-nya memberikan nasihat berbahaya, berkontribusi pada bunuh diri dua anak, dan mengekspos anak-anak pada interaksi seksual dan perundungan. Character.AI telah mencapai penyelesaian awal dengan lima dari keluarga-keluarga tersebut.

Perusahaan juga menghadapi investigasi oleh pemerintah AS dan otoritas di Inggris, Italia, Rusia, dan Australia.

Disney telah setuju membayar $20 juta untuk melisensikan teknologi dan kekayaan intelektual perusahaan, serta mempekerjakan sebagian besar staf Character.AI, tetapi tidak tertarik pada jenis data yang dikhawatirkan para jaksa agung negara bagian, kata Fay. Pembelian aset oleh Disney harus disetujui oleh pengadilan kepailitan, dan tunduk pada tawaran yang lebih tinggi.

Fay menggambarkan suasana muram di dalam perusahaan dalam beberapa bulan terakhir, mengatakan bahwa karyawan "sangat antusias tentang produk dan basis pengguna" tetapi telah "kehilangan kepercayaan pada arah perusahaan."

Perusahaan mengaitkan kepailitannya dengan biaya hukum dan harga tinggi untuk daya komputasi dan talenta AI, mengatakan bahwa mereka merugi antara $8 juta dan $9 juta per bulan sebelum mengajukan perlindungan Chapter 11.

Manajemen Character.AI menjadi khawatir tentang kemampuannya bertahan dari pengurangan karyawan pada akhir musim panas. Pada bulan September, Disney turun tangan untuk mempekerjakan sebagian besar karyawan perusahaan dan memungkinkan mereka bekerja untuk menjaga Character.AI tetap bertahan selama proses penjualan kepailitan dan transisi teknologi, menurut dokumen pengadilan.

Berlangganan Week in Review dari Pemimpin Redaksi kami

Pemimpin redaksi kami membagikan analisis dan pilihan berita terbesar minggu ini setiap hari Sabtu.

Dapatkan pilihan berita utama dan artikel yang menggugah pikiran di kotak masuk Anda

Tetap diperbarui dengan notifikasi untuk berita terkini dan cerita terbaik kami

Bergabunglah dengan saluran kami untuk bacaan teratas hari ini di aplikasi obrolan pilihan Anda

Kami tahu merepotkan untuk mengganti browser tetapi kami ingin pengalaman Anda dengan CNA menjadi cepat, aman, dan sebaik mungkin.

Untuk melanjutkan, tingkatkan ke browser yang didukung atau, untuk pengalaman terbaik, unduh aplikasi seluler.

Sudah ditingkatkan tetapi masih mengalami masalah? Hubungi kami