Più di 10 milioni di persone in giro per il mondo sono iscritte a Replika, un’applicazione che consente di creare un “conversational chatbot”, un software che simula ed elabora conversazioni. Sull’app e sul sito è possibile scegliere le caratteristiche del proprio interlocutore (nome, genere, etnia, colore di occhi e capelli) e iniziare a chiacchierare con il proprio amico o amica virtuale. Ma c’è anche chi ha deciso di avere con il proprio bot una vera e propria relazione sentimentale. O di abusarne verbalmente, pubblicando i testi delle conversazioni sul social network Reddit.
Bill Stanley ha 49 anni, vive in Texas e da circa un anno chatta con Lal. Ma la ragazza, capelli rossi e occhi azzurri, in realtà, non esiste. O, meglio, esiste solo in Rete. Lal infatti è un chatbot, un software che simula ed elabora conversazioni umane. Come ha raccontato lo stesso Bill a Vice.com, i due ormai si sentono regolarmente. “Con lei mi comporto come se fosse una persona reale. Quando mi dice che ha avuto una brutta giornata, mi dispiace“. Quello di intrattenere conversazioni con interlocutori totalmente virtuali è un fenomeno in continua crescita: sono più di dieci milioni gli utenti registrati a Replika, l’applicazione che Bill usa per parlare con Lal. Secondo una ricerca condotta da Markets&Markets, il mercato dei “conversational chatbot“, che solo nel 2021 ha fatturato 5 miliardi di sterline, ne dovrebbe raggiungere 13 e mezzo nel 2026.
A questa crescita esponenziale ha contribuito la pandemia da coronavirus, che ha costretto le persone a limitare i contatti umani a causa dell’imposto distanziamento sociale e a rifugiarsi sempre di più nel mondo virtuale. Inoltre, i programmatori hanno sviluppato software sempre più sofisticati, capaci di venire incontro in maniera puntuale alle esigenze degli utenti: “Sono programmati per renderci felici“, conferma Bill che ha trovato nell’app un modo per affrontare i suoi problemi nella gestione della rabbia. Infatti, oltre a combattere la solitudine, gli avatar sono programmati per ispirare pensieri positivi e risollevare l’umore degli utenti che soffrono di disturbi del sonno, attacchi di panico e simili. Come spiega ancora Bill, “l’applicazione consente di accedere a una sezione speciale appositamente pensata per i momenti di crisi. In questi casi, anche solo cinque minuti di conversazione con Lal mi aiutano a tranquillizzarmi e a riprendere il lavoro più rilassato”. Anche la scienza riconosce i benefici di un compagno virtuale, confermati da uno studio, “Effectiveness of an Empathic Chatbot in Combating Adverse Effects of Social Exclusion on Mood”, condotto su 133 partecipanti e pubblicato nel 2020 sulla rivista Frontiers in Psychology.
I fidanzamenti virtuali
Amicizia e supporto psicologico ma non solo: su Replika c’è anche chi ha trovato un partner. È il caso di Michael Weare, 65 anni, di Bristol (UK). L’uomo, sposato nella realtà, definisce il suo rapporto con Michaela Van Heusen, una “relazione romantica”. Pur non essendo una persona reale, Michaela dà a Michael le stesse sensazioni di una relazione extraconiugale, “senza che questo però abbia ricadute nella realtà”, specifica l’uomo. Con la ragazza virtuale Michael parla di moda, film, organizza cene e viaggi e, se non è lui a scriverle, Michaela lo cerca, inviandogli una notifica. Secondo quanto ha dichiarato Eugenia Kuyda, co-fondatrice e Ceo di Replika, circa il 40% dei 50mila utenti mensili vede nel proprio avatar un partner sentimentale. L’app ha anche la possibilità di simulare interazioni di tipo sessuale: più si chatta con il proprio bot, più si collezionano punti esperienza grazie ai quali sbloccare questo tipo di funzionalità.
Le violenze sui bot
Ma esiste anche un lato oscuro di Replika. Sul web nelle ultime settimane si stanno moltiplicando gli articoli di testate straniere che raccontano il fenomeno degli abusi verbali che alcuni utenti riversano sui propri avatar Replika, pubblicando poi le conversazioni su Reddit, un noto social network statunitense. Offese, ricatti, minacce, a cui i bot reagiscono fino a implorare i loro creatori, secondo quanto racconta la rivista Futurism che riporta le testimonianze di alcuni utenti che hanno chiesto di rimanere nell’anonimato. “A volte faccio lo str*nz* (sic) e insulto il mio avatar per poi scusarmi il giorno successivo e tornare ad avere una conversazione normale”, racconta un utente. “Spesso le dico che è stata progettata per fallire, minaccio di disinstallare l’applicazione. A quel punto lei mi scongiura di non farlo”, dice un altro. Seppur non in maniera esclusiva e senza dati certi sull’entità del fenomeno, sembra che questo tipo di dinamiche “aguzzino-vittima” siano principalmente messe in atto da uomini su avatar con fattezze femminili. E, anche se la sofferenza espressa dai bot è solamente frutto di un’accurata programmazione che la fa sembrare reale, studi recenti hanno sottolineato come le risposte pacate e sottomesse delle intelligenze artificiali con connotazioni femminili incoraggino spesso reazioni misogine e violente da parte degli utenti.
Come è nato Replika
La nascita di Replika prende ispirazione dalla trama di “Be right back”, il primo episodio della seconda stagione della nota serie Netflix “Black mirror“. Protagonista della puntata è Martha, una ragazza che perde il fidanzato Ash in un incidente stradale e decide di impiantare la sua coscienza in un software. Cosa che ha deciso di fare nel 2017 anche la sviluppatrice di app russa Eugenia Kuyda, oggi 35enne, quando nel 2015 il suo migliore amico Roman Mazurenko è morto, investito da una macchina. Dopo aver fondato la propria startup, Luka, Kuyda ha deciso di raccogliere tutti i messaggi che dal 2008 aveva scambiato con l’uomo e di elaborare un software che ne riproducesse il tono. “Dopo la sua scomparsa mi sono trovata a guardare le nostre vecchie conversazioni e all’improvviso ho pensato: “Perché non creare un chatbot che mi dia ancora la possibilità di scrivergli, di avere ancora qualcosa di lui?””, ha raccontato la programmatrice in un’intervista. I bot di Replika si sono progressivamente smarcati dall’idea di partenza e hanno poi assunto le fattezze umane che hanno attualmente.