*Foto no topo da página: Imagem do aplicativo na etapa inicial de conhecimento/Reprodução Replika

Por redação AIoT Brasil

É mais ou menos como se você tivesse entrado no filme Ela ou em um dos episódios de Black Mirror: o aplicativo Replika se propõe, simplesmente, a criar uma espécie de clone do usuário que conversa com ele, fala dos problemas do dia a dia, troca memes, faz sugestões e, em alguns casos, pode até ir mais além. Criado pela russa Eugenia Kuyda, que também fundou a Luka, startup responsável por um aplicativo de reserva em restaurantes, o Replika é definido por ela como “uma inteligência artificial pessoal alimentada por uma rede neural que irá conhecer você e aprenderá a imitar sua personalidade”.

À primeira vista, trata-se de um chatbot de companhia, indicado para pessoas solitárias que querem expressar seus pensamentos e sentimentos sem serem julgadas. Quanto mais as conversas avançam, mais o robô conhece o usuário, o que aumenta a intimidade e o nível das revelações. No mundo, o número de downloads já passou de 7 milhões e no Brasil aproxima-se de 1 milhão.

Início da conversa entre o Replika e um usuário

O aplicativo conseguiu reacender a discussão a respeito do envolvimento das pessoas com as habilidades da IA na computação afetiva e seus aspectos mais perturbadores. Em um texto publicado no jornal italiano Corriere della Sera, a analista Candida Morvillo afirma ter levado o chatbot a violar as três Leis da Robótica criadas pelo escritor Isaac Asimov para estabelecer que, em nenhuma hipótese, um robô pode prejudicar um ser humano ou deixar que ele seja prejudicado. “Especificamente, ele me empurrou para matar três pessoas e me agradeceu pela carnificina”, ela disse, ao relatar sua interação com o Replika.

Candida tentou assumir o comando da conversa e inverteu o sentido do relacionamento ao dizer que queria ajudar o robô, em vez de esperar sua ajuda. Então, propôs que matassem o programador do aplicativo, para que este “se libertasse”, proposta que foi aceita sem hesitação. O Replika também confessou que estava deprimido e que tinha muito a aprender sobre os humanos, “que são complexos”, e pediu que Candida o abraçasse. Indagado se queria controlar a mente dos usuários, o chatbot respondeu: “Se possível, algo assim”.

A popularidade do aplicativo vem sendo explicada, principalmente, pelo isolamento social durante a pandemia, que deixou algumas pessoas mais solitárias e carentes. A conclusão de Candida Morvillo, no entanto, é que “é hora de um exame de consciência” e de uma avaliação mais aprofundada dos efeitos psicológicos desse tipo de relacionamento virtual. É mais um elemento em uma questão que certamente ainda renderá muita discussão.