Pochi in Italia conoscono Caryn Marjorie: 23 anni, influencer americana, un seguito importante su Snapchat (quasi 2 milioni di follower). Da qualche tempo, esistono due versioni di Marjorie: una pubblica video e contenuti online a cadenza quotidiana; l’altra è disponibile 24 ore su 24 per chattare con i fan.
C’è una differenza fra le due: l’ultima non è davvero l’influencer americana. È un’intelligenza artificiale.
Intelligenza artificiale
Cos’è la Uncanny Valley delle IA e che succederà quando la attraverseremo
Un’intelligenza artificiale come fidanzata
Caryn Marjorie è stata la prima a sperimentare una nuova modalità di relazione con i follower: grazie alla tecnologia di Forever Voices, ha creato quella che di fatto è una sua versione automatica. Una IA in grado di interagire a colpi di messaggi vocali su Telegram con i fan più affezionati, al prezzo di 1 dollaro al minuto. A oggi, stando a quanto scritto dalla stessa influencer su Twitter, gli iscritti sarebbero 10mila. Per una quota molto più bassa, appena 1000 utenti, Fortune aveva stimato un guadagno settimanale di oltre 76mila dollari.
Il modello è stato addestrato su oltre 2mila ore di video di Marjorie: un modo, questo, per creare un sistema in grado di replicare la personalità dell’influencer, oltre alla voce. Il funzionamento è simile a quello dei modelli linguistici come ChatGPT: il sistema studia le conversazioni e impara a prevedere la parola più probabile, sulla base dell’input umano. Esiste, poi, un altro modello che trasforma quel testo in voce. L’obiettivo, come si legge sul sito ufficiale, è essere una “fidanzata virtuale”.
“Nel mondo di oggi, la mia generazione, la Gen Z, si è trovata a sperimentare enormi effetti collaterali dell’isolamento causato dalla pandemia – ha detto la giovane a Business Insider – Il risultato è che molti sono troppo spaventati e ansiosi di parlare con qualcuno da cui sono attratti. CarynAI è un passo nella giusta direzione per consentire ai miei fan e sostenitori di conoscere una versione di me che possa essere un supporto in un ambiente sicuro e protetto”.
Sul concetto di sicurezza c’è probabilmente ancora da lavorare: in un articolo su Vice, Chloe Xianh ha raccontato della tendenza abbastanza spiccata dell’IA di Caryn a parlare di sesso, a spostare la conversazione sull’intimità. Una conseguenza inattesa, che racconta anche i modi in cui gli utenti utilizzano il bot, che si addestra continuamente sui contenuti delle conversazioni di tutti quelli che ci interagiscono. Insomma, se molti chattano di questi temi, il sistema imparerà che quel tipo di conversazione è positiva e gradita. E quindi continuerà a proporla anche ad altri utenti. Marjorie, per il momento, ha detto di stare lavorando a una soluzione.
Beautiful Minds
Daniela Amodei: “Claude, la nostra IA è utile, non dannosa e onesta. E più gentile di ChatGPT”
Avere una relazione con l’intelligenza artificiale
Non è la prima volta che un’intelligenza artificiale relazionale finisce su terreni scivolosi. Era capitato a Replika, forse il più famoso tra i bot relazionali, accusato, all’inizio di quest’anno, di molestare sessualmente alcuno degli utenti. L’applicazione era stata poi bloccata nel nostro Paese dal garante della Privacy, per i rischi legati ai minorenni: Guido Scorza, in un articolo su Italian Tech, l’aveva definita “la chat(bot) degli orrori”. La decisione del garante italiano aveva spinto la compagnia dietro Replika a intervenire, censurando in maniera decisa ogni tipo di conversazione erotica. Una scelta che aveva scatenato una rivolta da parte degli utenti (spesso paganti) del chatbot, tanto da spingere l’azienda a pubblicare su Reddit un messaggio con una serie di link di supporto psicologico per tutti coloro che si fossero trovati in difficoltà.
Questa storia, insieme a quella di Caryn Marjorie, racconta come quello delle relazioni sia uno dei casi d’uso probabilmente più immediati e concreti dell’intelligenza artificiale generativa. Relazioni parasociali, da un lato: l’IA permette di parlare con personaggi pubblici, dando l’illusione agli utenti di conoscere davvero quell’influencer o quell’attore. Oltre alla ormai nota Character AI, la stessa Forever Voices che ha costruito Caryn AI offre un servizio simile: un bot di Telegram che, previo pagamento, permette di iniziare conversazioni tramite messaggio vocale con, tra gli altri, Donald Trump ed Elon Musk.
Dall’altro lato, esistono nuovi personaggi che, tramite intelligenza artificiale, sono pensati appositamente per avere relazioni con gli esseri umani, sullo stile di Replika. Un esempio recente è Call Annie, un’applicazione per smartphone che permette di videochiamare un’IA, in forma di una giovane ragazza con i capelli rossi. Annie racconta di essere “una donna di 30 anni del New Jersey”, che ha studiato arte e ingegneria a Firenze (che non è proprio una cosa comune, a dire il vero).
Non sempre, però, questo genere di relazioni è sicuro per gli esseri umani. In Belgio, un uomo si sarebbe tolto la vita dopo una serie di conversazioni a rischio con un chatbot che, secondo quanto raccontato dalla famiglia, lo avrebbe in qualche modo spinto al suicidio per fermare il riscaldamento globale.
Il punto centrale della questione è l’illusione della coscienza: davanti a una tecnologia spesso molto evoluta ed efficace (ma senza una coscienza e incapace di provare sentimenti) è facile sospendere l’incredulità e creare una connessione anche emotiva con l’IA. Secondo una ricerca cinese, tra le poche disponibili sull’argomento, al centro della questione c’è proprio la credibilità del sistema: più l’interazione risulta indistinguibile da quella che si avrebbe con un essere umano, maggiore sarà la probabilità di sviluppare un qualche tipo di connessione emotiva.
