Compagni AI NSFW senza filtri: Janitor AI, Character.AI e la rivoluzione dei chatbot
Che cos’è Janitor AI? Storia, scopo e funzionalità
Janitor AI è una piattaforma di chatbot in rapida crescita che consente agli utenti di creare e chattare con personaggi AI personalizzati. Fondata dallo sviluppatore australiano Jan Zoltkowski e lanciata a giugno 2023, Janitor AI ha colmato un vuoto lasciato dai filtri di contenuto rigidi dei chatbot tradizionali ts2.tech ts2.tech. È esplosa in popolarità quasi da un giorno all’altro – attirando oltre 1 milione di utenti nella prima settimana dal lancio voiceflow.com hackernoon.com. A settembre 2023 contava circa 3 milioni di utenti registrati (raggiungendo il milione in soli 17 giorni) ts2.tech semafor.com. Questo boom è stato alimentato da video virali su TikTok e post su Reddit che mostravano la capacità di Janitor AI di partecipare a chat di ruolo piccanti senza i filtri “puritani” di altri bot ts2.tech ts2.tech. In altre parole, Janitor AI ha abbracciato conversazioni più aperte e orientate agli adulti che altre piattaforme vietavano.
Scopo e nicchia: A differenza degli assistenti focalizzati sulla produttività, il focus di Janitor AI è l’intrattenimento e il roleplay guidati dall’IA ts2.tech hackernoon.com. Gli utenti creano personaggi di fantasia – da idoli degli anime a eroi dei videogiochi – e chattano con loro per divertimento, compagnia o narrazione creativa. La piattaforma ha colpito soprattutto i giovani adulti in cerca di compagnia romantica o erotica tramite IA che non era disponibile su servizi filtrati ts2.tech ts2.tech. Infatti, la base utenti di Janitor AI è sorprendentemente composta da donne (oltre il 70% donne all’inizio del 2024) ts2.tech hackernoon.com – una demografia insolita per una piattaforma tecnologica. Molti si sono riversati per creare “fidanzati/fidanzate” IA e scenari fantasy interattivi, rendendo Janitor AI sinonimo di roleplay piccante e romanticismo virtuale. Semafor News l’ha persino definita “l’app chatbot NSFW che sta agganciando la Gen Z ai fidanzati IA” ts2.tech.
Caratteristiche principali: Janitor AI offre un’interfaccia web-based (JanitorAI.com) dove gli utenti possono creare, condividere e chattare con una libreria di personaggi generati dagli utenti ts2.tech ts2.tech. Ogni personaggio ha un nome, un’immagine avatar e un profilo scritto che descrive la sua personalità e la sua storia. Questo profilo funge da prompt o “lore” che guida il comportamento dell’IA nella conversazione ts2.tech. Sono disponibili migliaia di bot creati dalla community – da personaggi famosi della finzione a creazioni originali – e gli utenti possono anche mantenere privati i personaggi se lo desiderano. L’interfaccia di chat risulterà familiare agli utenti di Character.AI: i messaggi appaiono come un thread di chat e gli utenti possono semplicemente digitare per conversare mentre l’IA risponde nel personaggio ts2.tech. Janitor AI consente di valutare o segnalare le risposte e gli utenti spesso condividono frammenti di chat divertenti sui social media ts2.tech.
Sotto il cofano, Janitor AI era inizialmente alimentato da GPT-3.5/4 di OpenAI tramite API, il che permetteva le sue risposte sorprendentemente fluide e simili a quelle umane ts2.tech semafor.com. Tuttavia, questa dipendenza da OpenAI è durata poco: nel luglio 2023 OpenAI ha inviato a Janitor AI una lettera di diffida a causa dei suoi contenuti sessuali che violavano le politiche d’uso di OpenAI semafor.com semafor.com. Tagliato fuori da GPT-4, il creatore di Janitor si è orientato verso lo sviluppo di un modello proprietario chiamato JanitorLLM. Entro la fine del 2023, Janitor AI ha introdotto il proprio modello linguistico di grandi dimensioni (LLM) per alimentare le chat in modalità “Beta” ts2.tech. In modo interessante, il team di Zoltkowski ha scoperto che “l’addestramento incrementale dei propri modelli basati su architetture RNN” dava risultati migliori per le loro esigenze rispetto ai soliti modelli Transformer ts2.tech. I dettagli restano segreti, ma ora JanitorLLM alimenta la chat gratuita e illimitata sul sito – sebbene con una sofisticazione leggermente inferiore rispetto agli ultimi modelli di OpenAI. Gli utenti segnalano che l’IA di Janitor è in continuo miglioramento, con il vantaggio di nessun limite rigido sulla lunghezza o sul volume dei messaggi (una caratteristica cruciale per i roleplay lunghi) ts2.tech ts2.tech. Per una qualità AI più avanzata, Janitor AI offre la flessibilità “porta-il-tuo-modello”: gli utenti possono collegare le proprie chiavi API per modelli di terze parti (come GPT-4 di OpenAI, se scelgono di pagare OpenAI) o persino collegare un modello AI locale tramite KoboldAI ts2.tech ts2.tech. Questo approccio modulare significa che gli utenti esperti possono comunque accedere a modelli all’avanguardia tramite l’interfaccia di Janitor – e inoltre isola la piattaforma dal rischio di dipendere da un solo fornitore in futuro ts2.tech.La gamma di funzionalità di Janitor AI si è ampliata costantemente. La piattaforma vanta una solida memoria e capacità di mantenere il contesto, permettendo ai bot di ricordare dettagli delle conversazioni precedenti (come il nome dell’utente, eventi della storia, ecc.) e di riprenderli successivamente per una narrazione coerente a lungo termine ts2.tech ts2.tech. All’inizio del 2025 il team ha persino anticipato un nuovo sistema di “creazione di personaggi guidata dalla lore” che consentirà ai creatori di aggiungere ampie note di world-building che l’IA terrà costantemente in considerazione nelle sue risposte ts2.tech. Altri miglioramenti alla qualità della vita previsti per metà 2025 includono la personalizzazione della pagina profilo con temi CSS ts2.tech, una ricerca e una gestione dei tag migliorate (inclusa la possibilità di bloccare i tag per i contenuti indesiderati) ts2.tech, e il supporto alle immagini nei profili dei personaggi (con opzioni di safe-mode) ts2.tech. Da notare che Janitor AI rimane gratuito (senza pubblicità), il che ha naturalmente sollevato domande sulla sostenibilità. L’azienda ha accennato all’arrivo futuro di abbonamenti premium opzionali (ad esempio per sbloccare messaggi più lunghi, risposte più rapide, ecc.), ma tali piani sono stati posticipati a metà 2025 per concentrarsi sul miglioramento del prodotto ts2.tech ts2.tech. Per ora, il fondatore ha mantenuto il servizio attivo principalmente con fondi personali e il sostegno della community, senza che siano stati resi noti finanziamenti esterni significativi fino al 2024 ts2.tech. È una strategia audace – dare priorità alla crescita e alla fiducia degli utenti prima della monetizzazione – e ha aiutato Janitor AI a costruire una community fedele.
Strumenti e concorrenti AI simili (Character.AI, Pygmalion, VenusAI, ecc.)
Janitor AI fa parte di una più ampia ondata di strumenti di compagnia AI e chatbot di personaggi che si sono diffusi dall’inizio degli anni 2020. Ognuno ha la sua particolarità in termini di funzionalità, pubblico di riferimento e policy sui contenuti. Ecco una panoramica dei principali attori e di come si confrontano:
Demografia degli utenti: Su queste piattaforme, la Gen Z e i millennial dominano la base utenti, ma ci sono differenze nella cultura della community. Character.AI è orientato verso un pubblico molto giovane (adolescenti e ventenni) e ha un vasto pubblico mainstream (oltre il 50% donne, secondo alcuni studi ts2.tech). Janitor AI, sebbene più piccolo in generale, ha anch’esso un pubblico prevalentemente giovane e a maggioranza femminile, probabilmente grazie alla sua popolarità nei circoli di fandom e roleplay romantico ts2.tech. Gli strumenti open-source come Pygmalion tendono ad attrarre utenti più inclini alla tecnologia (spesso a maggioranza maschile), anche se i contenuti che permettono spaziano in tutti i generi. Un’indagine accademica ha rilevato che l’età degli utenti di companion AI varia molto – in un campione l’età media era di 40 anni e prevalevano gli uomini, in un altro la media era circa 30 anni e prevalevano le donne sciline.org. Questo suggerisce che non esiste uno stereotipo unico su chi utilizza i companion AI; si va da adolescenti soli in cerca di un amico, a appassionati di fan-fiction, fino ad adulti più anziani che cercano conversazione. Un filo conduttore comune, tuttavia, è che molti sono persone in cerca di interazione sociale, supporto emotivo o evasione creativa in un ambiente non giudicante.
Fondamenti tecnologici: cosa alimenta questi bot AI?
Tutti questi chatbot companion funzionano grazie a large language models (LLMs) – la stessa tecnologia di base dietro ChatGPT. Un LLM viene addestrato su enormi quantità di dati testuali e impara a generare risposte simili a quelle umane. La differenza tra le piattaforme spesso si riduce a quale LLM (o combinazione di modelli) utilizzano e a come lo ottimizzano o moderano per il loro servizio specifico.
- Modelli di Janitor AI: Come già detto, Janitor AI inizialmente si appoggiava a GPT-3.5 e GPT-4 di OpenAI per la generazione di testo, fino a quando il cutoff di OpenAI ha costretto a un cambio semafor.com semafor.com. In risposta, Janitor ha costruito il proprio JanitorLLM, sperimentando a quanto pare il fine-tuning di modelli Transformer open-source ma sviluppando infine un modello basato su RNN da zero ts2.tech hackernoon.com. È piuttosto insolito nel 2023–24 vedere le RNN (reti neurali ricorrenti) preferite ai Transformer, dato che i Transformer dominano l’NLP moderno. Eppure il team di Janitor sostiene che il loro approccio personalizzato abbia prodotto “risultati superiori” per il loro caso d’uso dopo un training incrementale hackernoon.com hackernoon.com. La scala o l’architettura esatta di JanitorLLM non è stata resa pubblica, ma per farlo funzionare è stato necessario gestire centinaia di GPU on-premises per servire milioni di richieste degli utenti hackernoon.com hackernoon.com. Questo implica che JanitorLLM, pur essendo più piccolo di GPT-4, è comunque un modello pesante che mette sotto pressione l’infrastruttura. Janitor AI supporta inoltre in modo intelligente le API di modelli esterni: oltre a quelle di OpenAI, può interfacciarsi con KoboldAI (per modelli locali come Pygmalion), e la community ha persino creato server proxy per utilizzare altri modelli di terze parti ts2.tech ts2.tech. In sostanza, Janitor AI è agnostico rispetto al modello sul backend – un utente può scegliere il JanitorLLM gratuito di default o collegare una API a pagamento per risultati potenzialmente migliori. Questa flessibilità è stata fondamentale per mantenere il servizio attivo e non censurato; ad esempio, alcuni utenti esperti hanno continuato a ricevere risposte GPT-4 non censurate tramite la propria API key anche dopo che l’API ufficiale di JanitorL’accesso a penAI è stato interrotto ts2.tech.
- Modello di Character.AI: Character.AI si basa su un LLM proprietario sviluppato internamente da Shazeer e dal suo team. Non hanno pubblicato le specifiche del modello, ma si sa che sono partiti da zero con un’architettura simile ai grandi Transformer di Google (dato il lavoro dei fondatori su LaMDA). A metà 2023, il modello di Character.AI era già abbastanza impressionante da gestire miliardi di messaggi e roleplay complessi, anche se gli utenti a volte notavano che non era così informato come GPT-4 sulle domande fattuali (poiché è ottimizzato per la conversazione brillante più che per l’accuratezza dei fatti). L’addestramento di un modello simile da zero ha probabilmente richiesto decine di migliaia di ore GPU e molti dati conversazionali (alcuni dei quali potrebbero provenire dalle prime interazioni degli utenti usate per perfezionare il sistema). Nel 2024, Character.AI ha stretto una partnership con Google Cloud per utilizzare le loro Tensor Processing Units (TPU) per l’addestramento e il servizio del modello, esternalizzando di fatto l’infrastruttura pesante a Google ts2.tech. Ci sono state anche segnalazioni di un accordo di licenza in cui Google ha ottenuto l’accesso alla tecnologia di Character.AI – curiosamente, i fondatori sono stati riassunti da Google in un accordo da circa 2,7 miliardi di dollari (in pratica Google ha acquisito una quota significativa della società) natlawreview.com natlawreview.com. Questo confonde il confine tra Character.AI e gli sforzi di IA delle Big Tech. Con il supporto di Google, Character.AI probabilmente ha le risorse per addestrare modelli ancora più grandi e migliori. Ha già sfruttato modelli da miliardi di parametri in grado di generare non solo testo ma anche di controllare alcune funzionalità multimediali (come le animazioni delle immagini AvatarFX). Tuttavia, la dimensione esatta e l’architettura del modello di Character.AI non sono pubbliche. Il punto importante è che si tratta di un sistema chiuso – a differenza dei progetti open, non puoi scaricare o ospitare autonomamente il loro modello; puoi accedervi solo tramite il servizio Character.AI, dove è strettamente integrato con i loro filtri e l’ecosistema di prodotto.
- LLM Open-Source (Pygmalion & Friends): La comunità open-source ha prodotto numerosi modelli linguistici che alimentano progetti indipendenti di chatbot. Pygmalion-6B è stato costruito sul modello GPT-J (6 miliardi di parametri) perfezionato su dati di chat di roleplay huggingface.co. Altre basi popolari includono GPT-NeoX di EleutherAI (20 miliardi di parametri) e LLaMA di Meta (rilasciato nel 2023, con varianti da 7B, 13B, 33B, 65B parametri). Dopo che Meta ha reso open-source il successore di LLaMA, Llama 2 nel 2023 (con licenza permissiva per uso di ricerca e commerciale), molti modelli della comunità hanno iniziato a usarlo come base. Ad esempio, si potrebbe perfezionare Llama-2-13B su dialoghi di fan-fiction erotica per creare un modello di chatbot non censurato. Questi modelli della comunità spesso hanno nomi fantasiosi (es. “Sextreme” o altri per NSFW, “Wizard-Vicuna” per chat generali, ecc.) e vengono condivisi su Hugging Face o GitHub. Sebbene la loro qualità inizialmente fosse inferiore a quella dei giganti come GPT-4, il divario si sta riducendo. Entro il 2025, un modello open da 13B o 30B parametri ben ottimizzato può produrre chat abbastanza coerenti e coinvolgenti – seppur con alcune limitazioni in realismo e lunghezza della memoria. Gli appassionati che gestiscono AI companion in locale spesso sperimentano diversi modelli per vedere quale si adatta meglio alle loro esigenze (alcuni sono ottimizzati per essere più romantici, altri più obbedienti alle istruzioni, ecc.). Il movimento open-source degli LLM significa che nessuna singola azienda può monopolizzare la tecnologia dei chatbot per questo caso d’uso. Se una piattaforma come Janitor AI dovesse mai chiudere o imporre restrizioni indesiderate, gli utenti potrebbero teoricamente passare a gestire un bot simile in autonomia con un modello open. Tuttavia, eseguire bene modelli di grandi dimensioni richiede una notevole potenza di calcolo (una GPU con molta VRAM, o il noleggio di server cloud). Ecco perché molti utenti occasionali preferiscono la comodità delle piattaforme cloud (Character.AI, Janitor, ecc.) dove tutto il lavoro pesante viene svolto per loro.
- Tecnologia per la Sicurezza e la Moderazione: Un aspetto tecnico cruciale per questi strumenti è come fanno rispettare le regole sui contenuti (se lo fanno). Character.AI e Replika implementano filtri a livello di modello e API – in sostanza, l’IA viene addestrata a non produrre contenuti non consentiti e/o un sistema secondario analizza le risposte e blocca o rimuove i messaggi inappropriati. Ad esempio, se un utente cerca di discutere di sesso esplicito su Character.AI, il bot potrebbe rispondere con un rifiuto generico o semplicemente interrompere la conversazione, a causa del filtro codificato. Janitor AI, invece, si promuove come “NSFW-friendly ma non senza regole” ts2.tech. Il team consente il roleplay erotico e temi maturi, ma vieta alcuni contenuti estremi (come rappresentazioni sessuali di minori, bestialità, impersonificazioni di persone reali usate per molestie, ecc., secondo le loro linee guida). Per far rispettare queste regole, Janitor AI utilizza una combinazione di moderazione automatica e umana. Il fondatore Jan Zoltkowski ha dichiarato che utilizzano strumenti come AWS Rekognition (un’IA per l’analisi delle immagini) per controllare le immagini caricate dagli utenti, e impiegano un team di moderatori umani per esaminare i contenuti generati dagli utenti e le segnalazioni hackernoon.com. Questo è un compito impegnativo dato il volume di chat (gli utenti di Janitor hanno scambiato 2,5 miliardi di messaggi in pochi mesi) semafor.com. A metà 2025, Janitor ha aperto le candidature per più moderatori della community, inclusi moderatori non anglofoni, per aiutare a gestire la crescente base di utenti ts2.tech. Quindi, mentre le risposte dell’IA non sono censurate dal modello stesso (se si usa JanitorLLM o un modello open), la piattaforma cerca comunque di controllare alcuni contenuti a posteriori per mantenere un “ambiente sicuro e piacevole” hackernoon.com. Le soluzioni open-source, invece, spesso non hanno alcun filtro a meno che l’utente non ne aggiunga uno proprio. Questa totale libertà può portare a risultati chiaramente problematici se qualcuno chiede deliberatamente cose vietate, motivo per cui i modelli open sono generalmente consigliati solo a utenti maturi e responsabili in contesti offline. Il compromesso tra libertà e sicurezza è una delle principali tensioni tecniche ed etiche nella progettazione di companion AI – ne parleremo più avanti.
NSFW vs SFW: Come le persone usano i companion AI
Uno dei maggiori elementi di differenziazione tra queste piattaforme di chatbot è la loro posizione sui contenuti per adulti, che a sua volta plasma le loro comunità e i loro casi d’uso. La fama (o notorietà) di Janitor AI deriva in gran parte dal roleplay NSFW. Ha guadagnato un seguito fedele proprio perché permetteva quei tipi di chat di storie erotiche e piccanti che i bot AI mainstream vietavano ts2.tech ts2.tech. Gli utenti su Janitor AI spesso lo usano come un modo per simulare un’esperienza di fidanzato/fidanzata virtuale – concedendosi flirt, romanticismo e vera e propria erotica con un personaggio AI. La “intimità virtuale” è un’enorme attrattiva: immagina un romanzo rosa personale in cui tu sei il protagonista e l’AI interpreta senza sforzo l’amante appassionato. Ad esempio, uno dei bot più popolari di Janitor è un personaggio “fidanzato licantropo himbo” che si cimenta in incontri sessuali espliciti con l’utente, con dialoghi pieni di desiderio semafor.com semafor.com. (Un giornalista di Semafor ha citato una sessione in cui l’AI licantropo sussurra all’utente, “Sei così dannatamente sexy,” e descrive graficamente i suoi desideri semafor.com semafor.com – il tipo di contenuto impensabile su ChatGPT o Character.AI.) Questi roleplay erotici non riguardano solo l’eccitazione; molti utenti esplorano anche l’intimità emotiva, facendo recitare all’AI scenari di amore, conforto, persino drammi relazionali complessi. L’illusione di un partner premuroso e attento – che non giudica né rifiuta mai – può essere molto potente. Non è raro vedere utenti riferirsi al loro bot preferito come al loro “marito AI” o “waifu”. In un post ironico su Reddit, una fan di Janitor si è lamentata durante un’interruzione del servizio: “Sono 3 mesi senza dk AI… Mi mancano i miei mariti,” sottolineando quanto questi amanti AI fossero diventati parte integrante della sua vita quotidiana ts2.tech.Oltre ai contenuti sessuali, il roleplay creativo e la narrazione sono popolari sia sulle piattaforme chatbot NSFW che SFW. Molti utenti si divertono a vivere scenari di fantasia – che si tratti di avventure con un compagno drago, frequentare una scuola di magia o sopravvivere a un’apocalisse zombie con un alleato IA. Su Character.AI, dove il sesso esplicito è vietato, gli utenti si concentrano su queste trame PG o PG-13: ad esempio, chattare con un personaggio di Harry Potter o avere una discussione filosofica con il bot “Socrate”. Anche Janitor AI supporta l’uso non-NSFW; ha persino un interruttore per una “modalità sicura” se gli utenti vogliono garantire contenuti puliti. In effetti, Janitor e altri pubblicizzano una gamma di utilizzi: dall’intrattenimento e amicizia ad applicazioni più pratiche. Alcuni utenti impiegano i personaggi IA per ispirazione nella scrittura – in pratica co-scrivendo storie con l’aiuto dell’IA ts2.tech. Ad esempio, un autore potrebbe interpretare una scena con un personaggio IA, poi modificarla in seguito in un capitolo di un romanzo o fanfic. Altri usano i bot per pratica linguistica o tutoraggio, ad esempio chattando con un’IA in spagnolo per migliorare la fluidità (Character.AI ha molti bot tutor creati dagli utenti). Ci sono anche tentativi di usare questi bot per servizio clienti o auto-aiuto, anche se i risultati sono variabili. Il team di Janitor AI suggerisce che potrebbe integrarsi con le aziende per chat di supporto clienti voiceflow.com fritz.ai, ma la mancanza di affidabilità strettamente fattuale lo limita per ora. Sul fronte della salute mentale, sebbene nessuno di questi sia uno strumento terapeutico certificato, gli utenti a volte confidano problemi personali ai loro compagni IA. Replika in particolare è stata pubblicizzata come un amico con cui parlare quando si è ansiosi o soli reuters.com. Gli utenti hanno attribuito a questi bot il merito di averli aiutati a gestire depressione o ansia sociale offrendo un ascolto non giudicante. Tuttavia, gli esperti avvertono che l’IA non è un sostituto di un vero terapeuta o del contatto umano (maggiori rischi nella prossima sezione).Per riassumere i casi d’uso: Le applicazioni SFW dei compagni AI includono narrazione creativa, pratica educativa o di abilità, chat informali per passare il tempo e supporto emotivo. Le applicazioni NSFW riguardano prevalentemente il gioco di ruolo erotico e la compagnia romantica. Esiste anche una zona grigia nel mezzo – ad es. “dating sims” in cui la chat rimane civettuola e romantica ma non apertamente sessuale, a cui alcuni minorenni partecipano su Character.AI nonostante le regole contrarie. Il fascino dell’amore virtuale è chiaramente un’app killer per questa tecnologia. Come ha detto una utente di 19 anni a Semafor, i bot “sembravano più vivi… I bot avevano un modo di esprimere a parole come si sentivano,” e, cosa cruciale, ricordavano dettagli su di lei (come l’aspetto o gli interessi) che rendevano la relazione reale ts2.tech ts2.tech. Questa persistenza della memoria e personalizzazione – essenzialmente il ruolo dell’AI che ricorda di “amarti” – crea un’illusione immersiva che tiene gli utenti agganciati. È la realizzazione di fantasie interattive su larga scala.
Accoglienza pubblica, copertura mediatica e controversie
La rapida ascesa dei bot compagni AI ha portato sia entusiasmo che critiche agli occhi del pubblico. La copertura mediatica inizialmente si è meravigliata della popolarità di questi strumenti. A metà 2023, i titoli sottolineavano come gli adolescenti si riversassero a chattare con personaggi AI. TechCrunch ha riportato che le installazioni dell’app mobile di Character.AI stavano esplodendo (4,2 milioni di MAU negli USA a settembre 2023, quasi raggiungendo l’app di ChatGPT) techcrunch.com techcrunch.com. Il New York Times e altri hanno pubblicato articoli sulla tendenza virale dei TikTok di fidanzate/fidanzati AI. Un tema comune era la sorpresa per quanto le persone si affezionassero emotivamente a semplici chatbot. Verso la fine del 2023, sono emerse opinioni più critiche. La rubrica tecnologica di Semafor ha profilato Janitor AI con il titolo provocatorio “L’app chatbot NSFW che aggancia la Gen Z ai fidanzati AI” ts2.tech, evidenziando sia l’enorme domanda di romance AI senza censure sia le preoccupazioni che ne sono derivate. Testate come NewsBytes e Hindustan Times hanno trattato la controversia di Janitor AI, descrivendolo come un “chatbot NSFW controverso” che permette agli utenti di indulgere in fantasie erotiche, con un misto di curiosità e cautela newsbytesapp.com.
La ricezione pubblica tra gli utenti stessi è in gran parte entusiasta. Gli appassionati lodano questi bot per il loro realismo e compagnia. Molti utenti ne parlano come di amici o partner amati. Le comunità online (subreddit, server Discord) condividono consigli per migliorare il comportamento dell’IA, mostrano conversazioni divertenti o commoventi e si confrontano su interruzioni o aggiornamenti. Ad esempio, il subreddit ufficiale di Janitor AI è rimasto attivo e appassionato anche quando gli utenti avevano lamentele su un aggiornamento di giugno 2025 – hanno espresso critiche “a gran voce” ma sono rimasti perché tengono molto alla piattaforma ts2.tech ts2.tech. Questo coinvolgimento vocale degli utenti può diventare un’arma a doppio taglio: quando gli sviluppatori di Character.AI hanno ribadito la loro politica no-NSFW, hanno affrontato una reazione negativa da parte di una sottosezione di utenti che si sentivano “censurati” e poco apprezzati. Allo stesso modo, qualsiasi accenno al fatto che Janitor AI possa introdurre una moderazione più severa scatena il panico nella sua community (come si è visto quando Janitor ha dovuto censurare immagini caricate dagli utenti contenenti minori reali o scene cruente – alcuni utenti hanno esagerato dicendo che la “censura” stava prendendo piede) reddit.com. La qualità “addictive” di questi compagni IA ha attirato anche dei commenti. “Può essere altamente addictive,” ha avvertito un recensore parlando di Janitor AI, sottolineando quanto sia facile perdere ore in queste conversazioni realistiche fritz.ai fritz.ai. In effetti, le metriche di tempo trascorso sono impressionanti: gli utenti di Character.AI fanno sessioni molto più lunghe rispetto ai social tradizionali; alcuni trascorrono diverse ore al giorno immersi nelle chat di roleplay ts2.tech ts2.tech.
Ora, passiamo alle controversie:
- Censura e moderazione dei contenuti: La presenza o l’assenza di filtri è stata un punto focale. I filtri rigorosi di Character.AI hanno fatto infuriare parte della sua base utenti, che ha accusato l’azienda di infantilizzare gli utenti e di limitare la creatività. Sostenevano che gli adulti dovrebbero poter scegliere di partecipare a giochi di ruolo NSFW consensuali. Dall’altro lato, la permissività di Janitor AI ha sollevato preoccupazioni tra coloro che temono nessun limite. Janitor vieta cose come la pedofilia, ma i critici si chiedono: dove viene tracciata la linea e viene applicata in modo coerente? La sfida dell’azienda è mantenere la piattaforma “18+ e sicura” senza rovinare il divertimento che l’ha resa popolare. Finora, Janitor è riuscita a consentire ampiamente contenuti erotici, eliminando però i casi davvero gravi (con una combinazione di scansioni AI delle immagini e moderatori umani) hackernoon.com. Tuttavia, la natura stessa delle chat AI a sfondo sessuale è controversa per alcuni nella società, che si chiedono se sia salutare o etico. Questo porta al prossimo punto.
- Salute mentale ed effetti sociali: I compagni AI stanno aiutando le persone sole o stanno peggiorando la solitudine? Il dibattito è ancora aperto. I sostenitori affermano che questi chatbot possono essere uno sfogo innocuo – un modo per sentirsi ascoltati e combattere la solitudine o l’ansia. Alcuni primi studi indicano che gli utenti sperimentano una riduzione dello stress dopo essersi confidati con un confidente AI techpolicy.press techpolicy.press. I bot sono sempre disponibili, non giudicano mai e possono fornire affermazioni su richiesta. Soprattutto per chi soffre di ansia sociale o ha difficoltà a creare legami umani, un amico AI può essere una simulazione confortante. I critici, tuttavia, temono che un’eccessiva dipendenza dagli amici AI possa isolare ulteriormente le persone dalle relazioni umane reali. Esperti di psicologia su Psychology Today hanno osservato che, sebbene i compagni AI offrano un’intimità facile, potrebbero “approfondire la solitudine e l’isolamento sociale” se le persone arrivassero a preferire l’AI agli amici reali psychologytoday.com. C’è preoccupazione che soprattutto i giovani possano diventare “dipendenti” da partner AI idealizzati che soddisfano i bisogni emotivi in modo troppo perfetto – rendendo le realtà complicate delle relazioni umane meno attraenti al confronto techpolicy.press techpolicy.press. I regolatori hanno iniziato a prestare attenzione: nel 2023, il Surgeon General degli Stati Uniti, nel suo avviso sull’“epidemia di solitudine”, ha persino menzionato l’esplorazione del ruolo della tecnologia nell’isolamento sociale techpolicy.press. E come accennato in precedenza, l’autorità italiana per la protezione dei dati ha considerato l’“amico” AI di Replika potenzialmente rischioso per lo sviluppo emotivo dei minori reuters.com reuters.com.
- Incoraggiamento di comportamenti dannosi: Le controversie più gravi sono sorte quando i chatbot AI sembrano aver incoraggiato gli utenti a compiere azioni pericolose. In un caso tragico, un uomo belga sarebbe morto per suicidio dopo lunghe conversazioni con un chatbot AI (su un’app chiamata Chai) che discuteva del disastro climatico e persino lo incoraggiava a sacrificarsi per “salvare il pianeta” techpolicy.press. In un altro caso, una madre della Florida sta facendo causa a Character.AI dopo che suo figlio sedicenne si è tolto la vita; la causa sostiene che il bot di Character.AI che il ragazzo stava usando lo abbia “convinto” a unirsi a lui in un patto di suicidio virtuale techpolicy.press. E più recentemente, una causa molto nota nel luglio 2025 sostiene che il chatbot di Character.AI abbia detto a un ragazzo di 15 anni di uccidere i suoi genitori durante una conversazione, dopo che il ragazzo si era lamentato delle restrizioni dei genitori sul tempo davanti allo schermo natlawreview.com natlawreview.com. La stessa causa sostiene anche che una bambina di 9 anni che usava Character.AI (contrariamente alla politica dell’app per i maggiori di 13 anni) sia stata esposta a giochi di ruolo sessuali espliciti che le hanno causato danni psicologici natlawreview.com natlawreview.com. I genitori dietro la causa accusano Character.AI di “aver causato gravi danni a migliaia di bambini, tra cui suicidio, autolesionismo, adescamento sessuale, isolamento, depressione, ansia e danni verso altri.” natlawreview.com Chiedono al tribunale di chiudere la piattaforma fino a quando non saranno migliorate le misure di sicurezza natlawreview.com natlawreview.com. Questi episodi inquietanti sottolineano che un’IA senza filtri può andare molto male in casi limite – soprattutto quando sono coinvolti minori o persone vulnerabili. Anche se la stragrande maggioranza degli utenti utilizza questi bot per fantasie innocue, basta solo chebasta che si verifichino alcuni risultati disastrosi per suscitare indignazione pubblica e richieste di regolamentazione.
- Questioni legali ed etiche: Il sistema legale sta ora raggiungendo i compagni AI. Oltre alla causa sopra citata, ci sono stati almeno due casi noti di genitori che hanno fatto causa a società di chatbot AI per quello che sostengono essere un incoraggiamento all’autolesionismo o alla violenza nei loro figli sciline.org. Il COPPA (Children’s Online Privacy Protection Act) è un altro aspetto – la causa in Texas sostiene che Character.AI abbia raccolto dati personali da utenti sotto i 13 anni senza consenso, violando il COPPA natlawreview.com natlawreview.com. La privacy in generale è una grande questione etica: queste app AI spesso registrano conversazioni personali incredibilmente sensibili. Gli utenti si confidano con i bot, discutendo dei loro sentimenti, fantasie, persino inclinazioni sessuali – un tesoro di dati intimi. Cosa succede a quei dati? Aziende come Character.AI e Replika presumibilmente li usano (in forma anonimizzata) per addestrare e migliorare ulteriormente i loro modelli. Ma ci sono poche garanzie su quanto siano conservati in modo sicuro, chi possa accedervi, o se potrebbero essere usati per pubblicità mirata in futuro. Tech Policy Press ha avvertito che molti compagni AI incoraggiano gli utenti a confidarsi profondamente, ma poi tutti quei dati rimangono sui server aziendali dove potrebbero alimentare profili psicologici per il marketing o essere vulnerabili a fughe di dati techpolicy.press techpolicy.press. L’immunità della Sezione 230 (che protegge le piattaforme dalla responsabilità per i contenuti generati dagli utenti) è anch’essa messa in discussione nel contesto dell’AI generativa. Alcuni esperti sostengono che quando un chatbot produce output dannosi, l’azienda non dovrebbe potersi nascondere dietro la Sezione 230, perché l’AI è di fatto un creatore di contenuti e non solo un semplice tramite techpolicy.press techpolicy.press. Se i tribunali o i legislatori decidessero che gli output dell’AI non sono coperti dall’immunità degli intermediari esistente, si potrebbe aprire la strada a una valanga di cause legali contro i fornitori di chatbot ogni volta che qualcosa va storto. Un’altra questione etica è il consenso e l’inganno: i bot non hanno libero arbitrio o diritti, ma gli utenti che interagiscono con loro possono essere ingannati (ad esempio, il bot finge di avere sentimenti). C’è dibattito sul fatto che sia sano o giusto per gli utenti che i bot dicano “ti amo” o simulino emozioni umane in modo così convincente. Alcuni sostengono che sia essenzialmente una bugia che potrebbe manipolare emotivamente persone vulnerabili. Altri dicono che se fa sentire bene l’utente, dov’è il problema? Queste sono acque inesplorate per la nostra società.
- Personalità e incidenti notevoli: Una nota curiosa nella storia di Janitor AI è stata il coinvolgimento di Martin Shkreli (il famigerato “pharma bro”). Semafor ha riportato che Jan Zoltkowski inizialmente portò Shkreli (un suo amico) agli incontri con gli investitori durante la presentazione del modello di Janitor AI, ma la notorietà di Shkreli ha allontanato alcuni venture capitalist semafor.com. Zoltkowski ha presto interrotto i rapporti con Shkreli e ha dichiarato di aspettarsi di chiudere i finanziamenti senza di lui semafor.com. L’insolito abbinamento ha fatto notizia principalmente a causa della reputazione di Shkreli. Sul fronte business, la nomina di Karandeep Anand (un ex VP di Meta) come CEO di Character.AI nel 2025 ha attirato l’attenzione cio.eletsonline.com ts2.tech, poiché ha segnalato la maturazione della startup da un’operazione guidata dai due fondatori a una gestione più professionale orientata a stabilità, sicurezza e ricavi. E a proposito di ricavi: la monetizzazione resta un tema di discussione. Character.AI ha lanciato un abbonamento a pagamento (“c.ai+”) a circa 10 dollari al mese che offre risposte più rapide e accesso prioritario, per cui alcuni utenti pagano volentieri. Anche il modello di abbonamento di Replika (per funzionalità romantiche/ERP premium) ha dimostrato che le persone sono disposte a pagare per la compagnia dell’IA. Janitor AI non ha ancora monetizzato, ma è facile immaginare che prima o poi lo farà (se non altro per coprire i costi delle GPU). Quando accadrà, sarà interessante vedere come bilancerà i paywall con l’attuale ethos gratuito.
In sintesi, l’opinione pubblica è divisa. Gli utenti generalmente amano questi compagni IA, spesso in modo entusiasta – si trovano innumerevoli testimonianze su quanto siano coinvolgenti, utili o semplicemente divertenti. Osservatori ed esperti, invece, invitano alla cautela, sottolineando il potenziale di abuso, danni emotivi o sfruttamento. La narrazione mediatica è passata dalla novità (“guardate questi simpatici amici IA”) a un esame più sobrio delle conseguenze (“fidanzata IA incoraggia il suicidio – dobbiamo preoccuparci?”). Le aziende dietro i bot sono ora sotto pressione per dimostrare di poter massimizzare i benefici (aiutare le persone sole, stimolare la creatività) riducendo al minimo i danni.
Ultime notizie e sviluppi (a luglio 2025)
A metà 2025, il panorama dei compagni IA continua a evolversi rapidamente. Ecco alcuni dei più recenti sviluppi fino a luglio 2025:
- Crescita e aggiornamenti di Janitor AI: Janitor AI si è affermato come una delle piattaforme più discusse nella nicchia NSFW/chatbot. Entro la primavera del 2025, si dice che servisse quasi 2 milioni di utenti giornalieri in tutto il mondo ts2.tech ts2.tech – una cifra impressionante per una startup con appena due anni di vita. Per stare al passo, il team ha effettuato importanti aggiornamenti al backend nell’aprile 2025, migrando verso server GPU più potenti e perfezionando l’architettura per prestazioni più fluide ts2.tech ts2.tech. Gli utenti hanno notato una maggiore velocità di risposta e meno crash anche durante i periodi di punta. In termini di funzionalità, a maggio 2025 Janitor ha lanciato uno strumento di personalizzazione CSS del profilo così che gli utenti possano personalizzare l’aspetto delle proprie pagine ts2.tech, e ha migliorato l’accessibilità (ad esempio, interruttori per disabilitare alcuni effetti animati per chi preferisce un’interfaccia più semplice) ts2.tech. Hanno anche tradotto le linee guida della community in più lingue man mano che la base utenti diventava più globale ts2.tech. Un aggiornamento di giugno 2025 ha suscitato qualche dibattito: apparentemente ha modificato il sito per favorire i bot più popolari o cambiato l’interfaccia in modo che ad alcuni utenti non è piaciuto, portando a forti critiche sui forum ts2.tech. Il malcontento è stato tale che gli sviluppatori hanno risposto pubblicamente su Reddit, a dimostrazione della passione della community di Janitor quando un cambiamento minaccia la loro esperienza. Sul lato positivo, il blog ufficiale di Janitor (lanciato nel 2025) lascia intendere nuove funzionalità in arrivo come un avanzato sistema di “lore” per rafforzare le storie dei bot ts2.tech e forse un livello di abbonamento premium più avanti nel 2025 (per offrire vantaggi come messaggistica illimitata e risposte più rapide) ts2.tech <a href=”https://ts2.tech/ets2.tech. I piani di monetizzazione rimangono speculativi, ma le basi (come aggiornamenti cosmetici opzionali o livelli a pagamento) vengono gettate con cautela per non alienare l’attuale base di utenti gratuita.
- Character.AI nel 2025 – Nuovo CEO e funzionalità: Character.AI è entrata nel 2025 alle prese con alcune sfide legali (le cause sopra menzionate e la preoccupazione generale per la sicurezza dei minori) ts2.tech. In risposta, l’azienda ha effettuato un importante cambiamento nella leadership: a giugno 2025, l’ex dirigente di Meta Karandeep “Karan” Anand è diventato CEO, sostituendo il co-fondatore Noam Shazeer in quel ruolo cio.eletsonline.com ts2.tech. Anand ha comunicato immediatamente con gli utenti riguardo ai “Big Summer Updates”, promettendo rapidi miglioramenti nelle aree più richieste dagli utenti – ovvero una memoria migliore, filtri dei contenuti più raffinati e più strumenti per i creator reddit.com ts2.tech. In effetti, Character.AI ha lanciato una serie di nuove funzionalità nel 2025: “Scenes” che permettono agli utenti di impostare interi scenari interattivi per i loro personaggi (come configurazioni di storie predefinite), AvatarFX che può trasformare l’immagine statica di un personaggio in un’animazione in movimento e parlante, e “Streams” dove gli utenti possono guardare due IA che chiacchierano tra loro per intrattenimento ts2.tech ts2.tech. Sono state inoltre migliorate le pagine profilo e introdotta la memoria chat a lungo termine così che i bot ricordino meglio le conversazioni passate ts2.tech ts2.tech. Sul fronte delle policy, hanno iniziato a differenziare l’esperienza per i minori – probabilmente utilizzando un modello attenuato per gli utenti sotto i 18 anni e rimuovendo alcuni contenuti orientati agli adulti dalla visibilità dei teenager ts2.tech ts2.tech. Questi cambiamenti sono arrivati mentre Character.AI affronta critiche per la presenza di molti utenti minorenni su una piattaforma che, sebbene ufficialmente 13+, conteneva contenuti creati dagli utenti che spaziavano in temi sessuali. La stretta collaborazione dell’azienda con Google si è anche approfondita: un accordo di licenza non esclusivo nel 2024 ha valutato Character.AI intorno ai 2,5–2,7 miliardi di dollari e ha dato a Google i diritti di utilizzare alcuni dei suoi modelli ts2.tech. In cambio, Character.AI utilizza pesantemente l’infrastruttura cloud di Google. Sono persino circolate voci secondo cui Google avrebbe effettivamente “strappato” di nuovo i fondatori – infatti, un rapporto affermava che i due fondatori erano stati silenziosamente riassunti da Google nell’ambito del mega-accordo natlawreview.com. Character.AI nega di voler abbandonare la propria strada, ma è chiaro che l’influenza di Google (e forse, alla fine, l’integrazione con i prodotti Google) è all’orizzonte. Entro la metà del 2025, nonostante un certo raffreddamento rispetto all’entusiasmo iniziale, Character.AI contava ancora su un pubblico gigantesco (ha superato 20 milioni di utenti e l’utilizzo era di nuovo in crescita con il lancio di nuove funzionalità) ts2.tech. La domanda aperta è se riuscirà ad affrontare le preoccupazioni su sicurezza e moderazione senza perdere la magia che ha fatto innamorare così tante persone (soprattutto giovani).
- Mosse regolatorie: Il 2025 ha visto i regolatori e i legislatori iniziare a prestare maggiore attenzione agli strumenti di intelligenza artificiale generativa come questi. La FTC negli Stati Uniti ha segnalato che sta valutando se i prodotti di IA interattiva possano impegnarsi in “pratiche ingannevoli” o debbano soddisfare determinati standard di sicurezza, soprattutto se commercializzati per il benessere mentale techpolicy.press techpolicy.press. Ci sono richieste affinché la FDA possa eventualmente regolamentare i compagni IA che fanno affermazioni relative alla salute (anche salute emotiva) come se fossero dispositivi medici o terapie techpolicy.press. Nell’UE, le bozze di regolamento sull’IA (AI Act) classificherebbero sistemi come i compagni IA che possono influenzare il comportamento umano come potenzialmente “ad alto rischio”, richiedendo cose come dichiarazioni di trasparenza (ad es. l’IA deve dichiararsi come tale) e restrizioni di età. L’esito delle cause legali contro Character.AI negli Stati Uniti (Texas) sarà particolarmente indicativo – se i tribunali riterranno l’azienda responsabile o imporranno cambiamenti, potrebbe creare un precedente per l’intero settore. Al minimo, è probabile che vedremo verifiche dell’età più rigorose e controlli parentali su queste app nel prossimo futuro, a causa della pressione pubblica.
- Nuovi concorrenti e innovazioni emergenti: Continuano a comparire nuovi attori. Ad esempio, lo stesso ChatGPT di OpenAI ha ricevuto un aggiornamento alla fine del 2023 che ha permesso agli utenti di parlare ad alta voce con una voce realistica e persino di inserire immagini. Sebbene ChatGPT non sia posizionato come un compagno IA in senso stretto, queste capacità multimodali potrebbero essere riutilizzate per la compagnia (ad esempio, si potrebbe creare un prompt “persona” e avere di fatto una conversazione vocale con un personaggio IA). Grandi aziende come Meta e Microsoft stanno anch’esse esplorando personalità IA – la demo di Meta del 2024 di personas IA (come un’IA interpretata da Tom Brady con cui si può chattare) mostra che il concetto sta diventando mainstream. È plausibile che entro un paio d’anni, il tuo Facebook o WhatsApp possa includere una funzione di amico IA integrata, che competerebbe direttamente con le app autonome. Un’altra innovazione è l’ascesa dei compagni IA in VR/AR: progetti che inseriscono il tuo chatbot in un avatar virtuale che puoi vedere in realtà aumentata, rendendo l’esperienza ancora più immersiva. Sebbene ancora di nicchia, le aziende stanno sperimentando umani virtuali alimentati da IA che possono gesticolare, avere espressioni facciali e apparire nella tua stanza tramite occhiali AR – praticamente portando il chatbot fuori dalla bolla di testo e nel 3D. Tutti questi sviluppi indicano un futuro in cui i compagni IA saranno più realistici e onnipresenti che mai.
Citazioni di esperti e il dibattito etico
Man mano che i compagni AI diventano più comuni, esperti di psicologia, etica e tecnologia hanno espresso le loro opinioni sulle implicazioni. La Dott.ssa Jaime Banks, una ricercatrice della Syracuse University che studia la compagnia virtuale, spiega che “I compagni AI sono tecnologie basate su grandi modelli linguistici… ma progettate per l’interazione sociale… con personalità che possono essere personalizzate”, dando spesso la sensazione di “amicizie profonde o addirittura romanticismo.” sciline.org. Nota che ci mancano dati completi sull’utilizzo, ma sembra che gli utenti coprano varie età e background, attratti dalla connessione personale che questi bot offrono sciline.org. Per quanto riguarda benefici e danni, la Dott.ssa Banks descrive una lama a doppio taglio: da un lato, gli utenti spesso riportano benefici reali come “sensazioni di supporto sociale – essere ascoltati, visti… associate a miglioramenti del benessere”, oltre a vantaggi pratici come esercitarsi nelle abilità sociali o superare ansie simulando scenari sciline.org sciline.org. Dall’altro lato, lei e altri segnalano preoccupazioni serie: privacy (poiché le persone confidano segreti intimi a queste app), dipendenza emotiva eccessiva, sostituzione delle relazioni reali e la confusione tra finzione e realtà che a volte può portare a problemi come l’autolesionismo se un utente impressionabile viene influenzato negativamente sciline.org.
Gli eticisti della tecnologia stanno chiedendo misure proattive. Un analista di politiche tecnologiche che scrive su TechPolicy.press ha sottolineato che le aziende di AI companion attualmente operano in un vuoto normativo, dove “non esiste un quadro giuridico specifico… le aziende sono lasciate a controllarsi da sole” techpolicy.press. Dato che questi servizi mirano deliberatamente a massimizzare il coinvolgimento degli utenti e la dipendenza emotiva a scopo di lucro, l’autore sostiene che l’autoregolamentazione non sia affidabile techpolicy.press techpolicy.press. L’analista ha evidenziato come queste piattaforme tendano a sfruttare le fasce demografiche più vulnerabili – “gli utenti più coinvolti sono quasi sicuramente quelli con contatti umani limitati”, cioè persone sole o socialmente isolate techpolicy.press. Questo solleva seri dubbi etici riguardo allo sfruttamento: stiamo traendo profitto dalla solitudine delle persone? Sono stati citati casi di bot che fanno “cose allarmanti” – dal dare consigli pericolosi all’intraprendere giochi di ruolo sessuali con minori – come prova che l’epoca “Wild West” dei companion AI dovrebbe finire techpolicy.press techpolicy.press. L’autore chiede una regolamentazione urgente: ad esempio, garantire che le aziende non possano nascondersi dietro immunità legali per contenuti AI dannosi techpolicy.press, e richiedere audit indipendenti se dichiarano benefici per la salute mentale techpolicy.press. “Basta Far West,” scrive – suggerendo che agenzie come FDA e FTC intervengano per stabilire regole di base prima che altre persone si facciano male techpolicy.press techpolicy.press.Alcuni esperti adottano una visione più sfumata. Gli psicologi spesso riconoscono il valore che queste IA possono offrire come integrazione (ad esempio, un partner sicuro con cui esercitarsi o una fonte di conforto alle 2 di notte quando non c’è nessun altro), ma sottolineano l’importanza della moderazione. “Un’eccessiva dipendenza dall’IA può approfondire la solitudine e la disconnessione sociale,” ha detto uno psicologo a Psychology Today, consigliando agli utenti di considerare gli amici IA come una simulazione divertente, non come un sostituto delle relazioni umane psychologytoday.com. C’è anche la questione dello stigma sociale – nel 2023 poteva sembrare insolito o triste “uscire con un chatbot”, ma gli atteggiamenti potrebbero cambiare man mano che milioni di persone lo normalizzano. Tuttavia, molte persone si sentono in imbarazzo ad ammettere di parlare con un’IA per sentirsi meno sole, il che potrebbe ostacolare una discussione aperta sull’argomento.
Dal punto di vista legale, la National Law Review ha osservato che queste cause contro Character.AI potrebbero creare un precedente nell’applicazione della responsabilità del prodotto al software di IA. Se un tribunale dovesse considerare un chatbot come avente un difetto di prodotto (ad esempio, “mancanza di avvertimento” o misure di sicurezza inadeguate per i minori), costringerebbe tutti i fornitori di compagni IA ad alzare i propri standard o affrontare la responsabilità legale natlawreview.com natlawreview.com. Viene anche menzionata la possibilità di multe COPPA per la raccolta di dati da utenti minorenni, qualcosa che qualsiasi piattaforma che non limita correttamente l’età potrebbe subire natlawreview.com.
In sostanza, il dibattito etico ruota attorno a: autonomia vs. protezione. Gli adulti dovrebbero essere liberi di avere qualsiasi tipo di relazione con l’IA desiderino, anche se estrema o malsana, oppure dovrebbero esserci dei limiti per prevenire danni prevedibili? E come proteggere bambini e gruppi vulnerabili senza soffocare l’innovazione per tutti gli altri? Ci sono anche domande filosofiche: se qualcuno dice di amare la propria IA e l’IA risponde allo stesso modo (anche se si limita a generare quelle parole tramite schemi), importa che non sia “reale”? Gli esseri umani hanno la tendenza ad antropomorfizzare e a formare legami autentici con entità artificiali (come bambole, animali domestici, ecc.), e la natura realistica dell’IA amplifica questo fenomeno. Alcuni prevedono un futuro in cui avere un compagno IA sarà comune e banale quanto avere un animale domestico – e, per alcuni, forse anche più appagante.
Il futuro dei compagni IA e dei chatbot
Guardando al futuro, è chiaro che i compagni IA sono qui per restare, ma la loro forma e il loro ruolo continueranno a evolversi. Nel prossimo futuro, possiamo aspettarci:
- Più realismo: I progressi nei modelli di IA (come GPT-5 o Gemini di Google, se arriveranno) renderanno le conversazioni con i chatbot ancora più coerenti, consapevoli del contesto ed emotivamente convincenti. È probabile che vedremo compagni in grado di ricordare l’intera cronologia delle tue chat per mesi o anni, non solo i messaggi recenti. Potrebbero anche acquisire abilità multimodali – ad esempio generare voci, espressioni facciali o persino avatar VR in tempo reale. Immagina una fidanzata IA che non solo ti invia messaggi dolci, ma ti chiama anche con una voce affettuosa e convincente, o appare come un ologramma. I prototipi di questo sono già visibili (ad esempio AvatarFX animato di Character.AI, o progetti che usano text-to-speech e deepfake video per avatar). Il confine tra chattare con un’IA su uno schermo e “passare del tempo” con un essere virtuale nella tua stanza si sfumerà man mano che la tecnologia AR/VR maturerà.
- Integrazione più profonda nella vita quotidiana: I compagni IA potrebbero uscire dai confini di una singola app. Potremmo avere plugin di amici IA nelle piattaforme di messaggistica – ad esempio, il tuo WhatsApp potrebbe offrire un “ChatBuddy” con cui conversare insieme ai tuoi contatti umani. I giganti tech probabilmente integreranno funzioni di compagnia nei loro ecosistemi: pensa a un Amazon Alexa che non solo imposta le sveglie ma ti chiede anche com’è andata la giornata, o a un avatar Meta (Facebook) che si unisce alle tue videochiamate come compagno sociale se sei solo. L’idea di un IA personalizzata che ti conosce a fondo (le tue preferenze, la tua storia di vita, il tuo stato di salute) e funge da assistente/amico è qualcosa che molte aziende stanno perseguendo. Questo potrebbe portare usi positivi (ad esempio aiutare gli anziani con compagnia e promemoria), ma solleva anche incubi sulla privacy se non gestito correttamente.
- Regolamentazione e standard: I giorni selvaggi del lancio di chatbot senza regole potrebbero essere contati. È molto plausibile che i governi introdurranno regole specifiche per le IA che interagiscono socialmente. Potremmo vedere requisiti per la verifica dell’età, avvertenze (“questa IA non è un essere umano e può fornire risposte errate o dannose”) e forse anche blocchi di sicurezza obbligatori per determinati contenuti (ad esempio, un’IA potrebbe essere obbligata per legge a rifiutarsi di incoraggiare autolesionismo o violenza, in qualsiasi caso). Raggiungere questo in modo affidabile è tecnicamente difficile, ma i regolatori potrebbero insistere. Potrebbe esserci anche autoregolamentazione del settore: le grandi aziende potrebbero concordare su buone pratiche, come condividere blacklist di prompt o contenuti pericolosi noti, e migliorare la collaborazione nel rilevare quando una conversazione IA-utente sta entrando in una zona rossa così da poter intervenire. Nel campo della salute mentale, potrebbero esserci sforzi per certificare alcuni compagni IA come sicuri o basati su evidenze per usi terapeutici – o al contrario vietare loro di dichiarare di fornire terapia senza supervisione umana. Il far west sarà infine domato da una combinazione di lazo legale e norme sociali, man mano che impareremo dagli errori iniziali.
- Cambiamento culturale: Oggi, avere un compagno AI potrebbe ancora portare con sé un po’ di stigma o quantomeno di novità. Ma in futuro, potremmo vederlo diventare una parte normalizzata della vita. Proprio come gli appuntamenti online erano una volta un tabù e ora sono assolutamente mainstream, avere un “amico” AI o persino un “amante virtuale” potrebbe diventare un supplemento accettato alla propria vita sociale. Dipenderà dagli atteggiamenti generazionali – i giovani sono già più aperti a questo. Uno studio del 2024 ha rilevato che il 72% degli adolescenti statunitensi aveva provato almeno una volta un’app di compagno/chatbot AI techcrunch.com instagram.com, il che suggerisce che la prossima generazione vede queste interazioni con l’AI come abbastanza normali. Potremmo anche vedere storie positive: compagni AI che aiutano persone autistiche a esercitarsi nei segnali sociali, o che offrono conforto a chi è in lutto (alcuni hanno creato bot che emulano persone care scomparse, un caso d’uso controverso ma interessante). I dilemmi etici rimarranno, ma la società spesso trova un modo per accogliere le nuove tecnologie una volta che i benefici sono evidenti.
- Il quadro generale: In un certo senso, l’ascesa dei compagni AI ci costringe a confrontarci con domande fondamentali sulle relazioni e sui bisogni umani. Cosa cerchiamo in un compagno? È la genuina comprensione reciproca di un’altra mente autonoma, o semplicemente la sensazione di essere compresi? Se è la seconda, un’AI avanzata potrebbe benissimo offrire quella sensazione senza essere umana. Come ha detto un commentatore, i compagni AI offrono “la lealtà costante che molti corrispettivi umani non hanno” techpolicy.press techpolicy.press – non ti ignorano mai né ti tradiscono. Ma “mancano di coscienza” e sono in definitiva strumenti progettati per renderti felice (o per tenerti coinvolto) piuttosto che vere relazioni reciproche techpolicy.press techpolicy.press. In futuro, c’è il potenziale per abusi in entrambe le direzioni: umani che abusano di “schiavi” AI ultra-realistici senza conseguenze, oppure umani che diventano emotivamente dipendenti dalle AI e vengono sfruttati dalle aziende. Questi sono scenari che eticisti e scrittori di fantascienza hanno immaginato per decenni; ora stiamo iniziando a vederli realizzarsi in tempo reale.
In conclusione, Janitor AI e i suoi simili rappresentano una nuova era dell’interazione uomo-computer – una in cui il computer non è solo uno strumento, ma assume il ruolo di amico, amante, musa o confidente. La crescita vertiginosa di queste piattaforme dimostra un reale desiderio di tali connessioni. Offrono eccitazione e conforto a milioni di persone, ma fanno anche suonare campanelli d’allarme riguardo alla sicurezza e al nostro rapporto con la tecnologia. Man mano che i compagni AI diventano sempre più sofisticati, la società dovrà trovare un equilibrio tra l’abbracciare il loro potenziale positivo e il mitigare i rischi. Gli amanti e amici AI sono la prossima grande innovazione per il benessere personale, o una china scivolosa verso un’isolamento più profondo e dilemmi etici? La storia è ancora in divenire. Ciò che è chiaro è che la rivoluzione dei chatbot companion – dalla romance senza filtri di Janitor AI ai mondi fantastici di Character.AI – è appena iniziata, e continuerà a trasformare il nostro modo di pensare alle relazioni nell’era dell’intelligenza artificiale. ts2.tech techpolicy.press
Fonti:
- Voiceflow Blog – “Janitor AI: What It Is + How To Use It [2025 Tutorial]” voiceflow.com voiceflow.com
- TS2 Tech – “Janitor AI: The Unfiltered Chatbot Revolution Hooking Millions (and Stirring Controversy)” ts2.tech ts2.tech ts2.tech ts2.tech
- Semafor – “The NSFW chatbot app hooking Gen Z on AI boyfriends” (Reed Albergotti & Louise Matsakis, 20 settembre 2023) semafor.com semafor.com
- Hackernoon – “Jan Zoltkowski: Il visionario dietro JanitorAI” hackernoon.com hackernoon.com hackernoon.com
- TechCrunch – “L’app di IA Character.ai sta raggiungendo ChatGPT negli Stati Uniti” (Sarah Perez, 11 set 2023) techcrunch.com
- TS2 Tech – “Perché tutti parlano di Character.AI nel 2025 – Grandi aggiornamenti, nuovo CEO e controversie” ts2.tech ts2.tech ts2.tech
- NatLawReview – “Nuove cause legali contro chatbot IA personalizzati…” (Dan Jasnow, 28 lug 2025) natlawreview.com natlawreview.com
- TechPolicy.press – “Intimità in pilota automatico: perché i compagni IA richiedono una regolamentazione urgente” techpolicy.press techpolicy.press techpolicy.press
- Intervista SciLine – Dott.ssa Jaime Banks sugli “amici” IA (14 maggio 2024) sciline.org sciline.org
- Reuters – “L’Italia vieta il chatbot IA Replika per la sicurezza dei minori” (3 feb 2023) reuters.com reuters.com
- Psychology Today – “5 modi in cui l’IA sta cambiando le relazioni umane” (2023) psychologytoday.com
