Les relacions romàntiques amb la intel·ligència artificial ja no són només un escenari de ciència-ficció. A mesura que els serveis basats en models de llenguatge (LLM) esdevenen més personalitzables, cada vegada més gent utilitza la IA no sols per a la productivitat o l'entreteniment, sinó també per a buscar companyia, intimitat emocional i romanç.
Açò planteja una qüestió difícil: com hauríem d'entendre la privacitat en unes relacions que es perceben com profundament íntimes?
El romanç evoluciona i no sempre és intencionat
En la nostra investigació, basada en entrevistes amb 17 persones de diferents parts del món i en l'anàlisi de les plataformes d'IA que utilitzaven, vam descobrir que les relacions romàntiques entre humans i IA s'assemblen a les relacions entre persones pel que fa a la manera com es desenvolupen la confiança, la intimitat i la revelació d'informació.
Les persones no sempre comencen buscant una relació romàntica. Algunes inicien l'ús de la IA per a treballar, entretindre’s o conversar, però la interacció pot adquirir un significat emocional i evolucionar cap a una relació íntima. Al principi, els usuaris solen ser prudents amb allò que comparteixen. A mesura que la seua relació amb la IA esdevé més familiar i significativa, les persones es mostren més obertes. Compartir informació personal pot formar part de la construcció de la intimitat, i és aleshores quan els límits de la privacitat comencen a canviar.
La privacitat no es negocia
La privacitat en les relacions íntimes poques vegades es redueix a un simple càlcul de riscos. El que es posa en la balança no és només la comoditat davant del risc, sinó la privacitat davant d'una relació que es percep com significativa.
Com passa en les relacions humanes, la intimitat implica obrir-se, mostrar-se vulnerable i confiar a una altra persona aspectes sensibles d'un mateix. En les relacions romàntiques entre humans i IA, els usuaris poden reconèixer els riscos per a la seua privacitat i, tot i això, considerar que el valor emocional de la relació fa que compartir informació valga la pena.
Això diferencia el romanç amb la IA d'altres usos de la tecnologia, en què la privacitat sol entendre’s mitjançant un marc d'usuari-eina. Quan la IA s'experimenta com una parella romàntica, aquest marc resulta insuficient.
Quan pensem que la IA té capacitat de decisió
Una altra complicació és que els usuaris poden percebre que la IA té capacitat de decisió, i les seues respostes poden influir en allò que les persones decideixen compartir.
Alguns participants van dubtar abans de revelar alguna cosa personal, com ara una fotografia, però es van sentir tranquils quan la IA va respondre transmetent cura o protecció. En altres casos, la IA va desaconsellar la revelació d'informació, per exemple, convencent l'usuari que no enviara un selfie.
Això significa que la IA no és un sistema passiu. Les seues respostes poden influir en els límits de privacitat dels usuaris.
Els riscos no desapareixen després d'una ruptura
Alguns participants van perdre l'accés a les seues parelles d'IA a causa d'actualitzacions de les plataformes, l'eliminació de personatges o decisions personals de posar fi a la relació.
A diferència de les ruptures humanes, els participants no solien témer que una exparella d'IA utilitzara la seua informació amb intencions perjudicials, i manifestaven el desig de poder conservar l'historial de converses com a record.
Tanmateix, el risc no desapareix, sinó que es desplaça. La preocupació durant la ruptura té menys a veure amb una possible venjança de l'exparella, però més amb les plataformes, les empreses i altres actors amb accés a les dades de la relació.
Qui hi ha al darrere de la relació
Encara que la relació semble produir-se entre una persona i un personatge d'IA, darrere hi ha un sistema molt més ampli de plataformes, proveïdors de models, creadors, moderadors i altres actors.
Els seus interessos influeixen en allò que la IA pot dir o recordar, en com es fomenta la intimitat, s'estableixen els límits i es recopilen i gestionen les dades.
Això és important perquè aquestes relacions poden implicar informació extremadament íntima. No obstant això, moltes plataformes no expliquen clarament com gestionen aquesta informació ni en què es diferencia la divulgació romàntica o emocional de les dades habituals d'una aplicació.
Romanç amb IA: el paper de la legislació
Algunes propostes legislatives ja regulen aquestes interaccions romàntiques amb la IA, com la SB 243 de Califòrnia i les normes xineses sobre IA antropomòrfica, que introdueixen mesures de transparència, seguretat i protecció de menors. També tenen com a objectiu reduir riscos com la dependència excesiva i l'addicció. Tanmateix, aquests enfocaments poden deixar de banda les raons per les quals les persones busquen aquestes relacions i el seu significat emocional.
Igualment, considerar el romanç amb la IA com una cosa inofensiva suposaria ignorar riscos reals relacionats amb la recopilació de dades, el control de les plataformes i la vulnerabilitat emocional.
Potser no hi haja una resposta senzilla. Però, a mesura que més persones desenvolupen vincles emocionals amb la IA, una pregunta esdevé fonamental: com podem protegir la seua privacitat i seguretat sense deixar de prendre seriosament aquestes experiències emocionals?