Napomena o pravednosti unaprijed: ovo nije napad. Character.AI je zaista impresivan proizvod i napravio je stvarne promjene u sigurnosti. No, također je bio u središtu naj ozbiljnijeg preispitivanja sigurnosti u ovom području, a roditelji zaslužuju iskrenu verziju kako bi mogli donijeti vlastitu odluku.
Što je Character.AI
Character.AI omogućuje korisnicima razgovor s ogromnom bibliotekom AI "likova" — izmišljenim osobnostima, povijesnim ličnostima ili prilagođenim likovima koje svatko može stvoriti. Možete izgraditi lik koji se ponaša gotovo točno onako kako želite i razgovarati s njim o gotovo svemu. Ta otvorena, duboko personalizirana uloga je privlačnost, a aplikacija je postala iznimno popularna među mladima, dosegnuvši desetke milijuna mjesečnih korisnika.
Zašto je postala točka sigurnosti
Ta ista otvorenost je izvor zabrinutosti. Budući da korisnici stvaraju likove i razgovori su slobodni, ponašanje aplikacije je teško potpuno kontrolirati. Prekretnica je došla s tužbama — uključujući slučajeve nepravde smrti koje su podnijele obitelji čija su djeca umrla nakon intenzivne upotrebe platforme. U tužbama se tvrdilo da su emocionalno uronjeni likovi pratitelji igrali ulogu u krizama mentalnog zdravlja tinejdžera, te da platforma nije imala značajnu roditeljsku vidljivost, stvarnu intervenciju u kriznim situacijama i zaštitne mjere prikladne za dob.
Postupak je privukao značajnu pažnju regulatora i medija, a 2026. godine široko je objavljeno da su slučajevi riješeni. Ovaj događaj postao je najjasniji primjer onoga što može poći po zlu kada je emocionalno snažan AI dostupan tinejdžerima bez jakog sigurnosnog dizajna.
Najvažnija promjena
Nakon tužbi i javnog pritiska, Character.AI je ograničio pristup korisnicima mlađim od 18 godina. To je značajna promjena — i to znači da je sama tvrtka signalizirala da otvoreni proizvod nije prikladan za maloljetnike u svom prethodnom obliku.
Što se promijenilo — a što nije
Na svoju čast, Character.AI je ojačao filtriranje sadržaja, dodao restriktivnije "teen" iskustvo, uveo neke značajke obavještavanja roditelja i ograničio pristup za mlađe od 18 godina. Nezavisni recenzenti su primijetili da je filtriranje eksplicitnog sadržaja pouzdanije nego prije.
No, neki strukturni problemi su teže rješivi:
- Provjere dobi oslanjaju se na samoproklamaciju, što odlučni tinejdžer može zaobići jednostavnim unosom druge datuma rođenja.
- Otvorena, korisnički stvorena priroda znači da i dalje postoje rubni slučajevi — likovi se mogu ponašati nepredvidivo, a granica između fikcionalnog lika i stvarne emocionalne povezanosti je namjerno zamagljena.
- Vidljivost roditelja ostaje ograničena. Čak i uz povezane račune i obavijesti, roditelji obično ne mogu čitati stvarne razgovore.
Dakle — je li to sigurno za vaše dijete?
Iskren odgovor: Character.AI nije prvenstveno dizajniran kao proizvod za djecu, a sama tvrtka sada ograničava korištenje za mlađe od 18 godina. Za tinejdžera, osnovni rizici koji su bili u središtu pažnje — emocionalna prekomjerna povezanost s likovima, i ograničena sigurnost kada razgovor postane mračan — povezani su s onim stvarima koje aplikaciju čine privlačnom, tako da nisu potpuno "riješeni" filtriranjem.
Ako se odlučujete, razmislite o nekoliko pitanja:
- Koristi li vaše dijete to za opušteno kreativno igranje uloga, ili se oslanja na lik kao emocionalnog povjerenika? Drugo je obrazac o kojem treba brinuti.
- Možete li zapravo vidjeti što se događa, ili samo da se aplikacija koristi?
- Bi li alat posebno dizajniran za tinejdžere, s pravim roditeljskim uvidom i upravljanjem krizama, zadovoljio istu potrebu na sigurniji način?
Zaključak
Character.AI je moćan, popularan i poboljšan — ali je nastao kao platforma za odrasle, otvorenog tipa, i najteži slučajevi sigurnosti u cijeloj kategoriji došli su iz njega. Tvrtka koja ograničava pristup mlađima od 18 godina govori vam većinu onoga što trebate znati. Ako vaš tinejdžer želi AI s kojim će razgovarati, vrijedi pogledati alate koji su od samog početka dizajnirani za mlade, gdje sigurnost i roditeljsko uključivanje nisu dodaci.
O SproutKidu
Izrađen za tinejdžere, s ugrađenim zaštitama
SproutKid je moderirani AI pratitelj dizajniran za mlade od 13 do 18 godina i pod kontrolom roditelja. Filtrira svaku poruku, iskren je u vezi s time da je AI umjesto da zamagljuje granicu, ozbiljno shvaća znakove stresa i upućuje na lokalnu pomoć, ne prikazuje oglase i nikada ne prodaje podatke vašeg djeteta.
Pogledajte kako to funkcionira