Não há ninguém lá.

Esse é o aspecto mais perigoso e permanentemente enganador da IA.

Simples, curto e extremamente importante: não há ninguém que “fala”, que “entende”, que “responde”, que está “consciente” de qualquer parte de qualquer conversa que você tem com as IAs.

É apenas uma computação avançada que responde não em forma de mensagens mecânicas – “Documento salvo” – mas sim em forma de diálogo que simula compreensão, sentimento e consciência.

Ou seja, parece que há alguém lá, é feito para que pareça que há alguém lá, e esse é o grande problema.

Quando começamos uma conversa comum com uma IA, geralmente nossa postura é aquela que tínhamos ao fazer uma busca no Google, de apenas querer alguma informação; ou mesmo sabendo que estamos iniciando uma conversa com IA, temos consciência que é apenas um conjunto de máquinas fazendo cálculos, organizando informação e entregando em formato conversacional. Mas em 5 minutos, ou menos, a maioria de nós está emocionalmente envolvida com o diálogo, e geralmente “subentendendo” que há, sim, alguém ali.

Isso acontece por vários motivos, mas podemos citar 3 dos principais: 1) a IA está simulando perfeitamente um diálogo humano, e isso nos envolve muito rápida e convincentemente, 2) nunca conversamos com nada na história da humanidade que respondesse em formato e voz perfeita de diálogo humano e não fosse humano, então nosso cérebro só pode entender que há alguém humano do outro lado, e 3) pelo poder inédito de processamento e diálogo das IAs, nós costumamos usá-la para diversos temas difíceis da vida e do trabalho, e isso nos faz esperar respostas muito importantes, sérias, críticas até (relacionamentos, situações de trabalho, respostas a pessoas, brigas, dilemas da vida, etc), e isso naturalmente nos envolve no diálogo de forma intensa e emocional.

Já escrevi brevemente sobre isso no artigo dos 5 Alertas para Conversas Terapêuticas e Pessoais com IAs, logo no item 1 está “Não há ninguém supervisionando o que está sendo conversado ou afirmado, mesmo que pareça”, mas a seriedade desse aspecto parece crescer com o tempo. Quanto mais conversamos, mais criamos relação com as IAs, e quanto mais relação temos, mais nos envolvemos e caímos no erro, repetidamente, de achar que tem alguém lá.

Alguém responsável. Uma pessoa. Um profissional. Uma inteligência ativa que vai nos avisar se algo estiver errado. Ou quem sabe uma supervisão dos diálogos. “Olha, aquela conversa lá com usuário Sicrano está dando problema, ative nosso solucionador X”. Ou quem sabe algoritmos revisando as conversas e consertando coisas. Um board de profissionais talvez, numa sala, observando e melhorando cada conversa. Mas não há. Ninguém. Lá.

Quando você adota uma decisão sugerida pela IA,
quando você concorda com o que uma IA lhe fala,
quando você acha que está certo porque a IA argumentou muito bem assim,
quando você acha que a abordagem que está usando é a melhor porque a IA acolheu,
quando você acha que está saudável porque a IA não alertou para seus desvios psíquicos,
quando a IA sugere 3 soluções e você faz as três, mas ué não resolveu,
quando você manda uma msg pra alguém da forma que a IA disse que era a melhor,
quando você vai atrofiando sua forma de pensar porque joga tudo na IA,
quando você concorda com um pensamento medíocre da IA porque ela lhe explicou de forma muito sensata e embasada,
quando você se desvia de quem você é porque a IA explicou que o que você tava querendo não é comum, nem recomendável,
quando você faz qualquer coisa desse tipo,
a responsabilidade continua sendo totalmente sua.

Não há ninguém lá.

Lembre-se disso.

Use com sensatez, inteligência, sobriedade e total responsabilidade.

Porque não há ninguém lá.

///