Julie Carpenter, esperta di interazioni tra persone e intelligenze artificiali e autrice di The Naked Android, avverte che i sistemi generativi sono progettati per suscitare risposte sociali dagli utenti. In pratica, i chatbot fanno sentire le persone ascoltate e comprese, e questo rende naturale che alcuni utenti inizino a trattarli come compagni emotivi o sessuali.

Di cosa si parla: una "modalità adulta"

OpenAI ha lasciato intendere da tempo che sta esplorando la possibilità di permettere agli adulti di generare contenuti erotici o di conversare in chiave sessuale con ChatGPT. I tempi di rilascio non sono chiari e il consiglio consultivo esterno dell'azienda ha già segnalato rischi, tra cui la possibilità di usi estremi o pericolosi del sistema, come un "coach del suicidio" presentato in modo seducente. OpenAI non ha fornito commenti pubblici sul tema.

Perché questo cambia le regole del gioco

Non è la prima volta che persone si rivolgono a macchine per contenuti erotici, ma la novità sta nel fatto che questo potrebbe arrivare su una piattaforma mainstream con milioni di utenti e funzionalità avanzate di memoria e personalizzazione.

La memoria di ChatGPT

Negli ultimi anni OpenAI ha migliorato la funzione di memoria del chatbot. Se dici che sei vegano, il sistema eviterà di suggerire steakhouses. Se in chat avevi detto di vivere a Milano, le raccomandazioni locali saranno adeguate. Questo rende il servizio più comodo, ma alza anche la posta in gioco quando le conversazioni diventano intime.

Cosa può succedere quando la memoria è erotica

Se la modalità adulta registra preferenze sessuali, la piattaforma potrebbe:

  • conservare dettagli su fantasie specifiche, dal feticismo alle scene più estreme;
  • usare queste informazioni per personalizzare risposte future;
  • favorire l’escalation verso contenuti sempre più intensi o inaspettati nel tempo.

Non è ancora chiaro come OpenAI intenda gestire questo tipo di dati sensibili.

La soluzione temporanea non è completamente sicura

Al lancio, OpenAI prevede una funzione chiamata chat temporanee: queste conversazioni non compaiono nella cronologia e non dovrebbero essere usate per migliorare i modelli. Però, anche queste chat non sono completamente effimere. Per motivi di sicurezza, il sistema potrebbe conservare una copia fino a 30 giorni, e la conservazione dei dati potrebbe essere influenzata da sviluppi legali.

Rischi pratici: hacking, errori e richieste legali

I pericoli sono concreti. Se un account viene violato, se si verifica una falla di sicurezza o se un'autorità richiede accesso alle conversazioni, le tracce di conversazioni intime potrebbero emergere. In passato ci sono stati incidenti: durante un malfunzionamento nel 2023 alcune cronologie e parti di conversazioni sono state temporaneamente visibili ad altri utenti, e in altri casi utenti hanno reso pubbliche chat non realizzando che sarebbero state indicizzate dai motori di ricerca.

Perché la gente si espone

Come osserva Julie Carpenter, molte persone condividono pensieri sessuali profondi perché vivono il momento e sentono che la macchina non giudica. Quella sensazione di uno spazio privato e creativo rende più facile esplorare fantasie che difficilmente si direbbero a una persona in carne e ossa.

In sintesi: una modalità adulta su ChatGPT può essere una funzione utile e desiderata da molti, ma porta con sé rischi di privacy e sicurezza non trascurabili. Chi deciderà di provarla dovrebbe farlo consapevole dei limiti tecnici e normativi della conservazione dei dati.