• Empathy Company

O efeito ELIZA e uma breve história da inteligência artificial

Atualizado: Mar 9

ELIZA “nasceu” nos anos 60 pelas mãos de Joseph Weizenbaum, professor do MIT. Tratava-se de um programa de computador bastante simples, e é considerado o primeiro chatbot da história.


O ELIZA funcionava com base no espelhamento, uma técnica usada por psicoterapeutas: o programa procurava no texto digitado por uma pessoa a palavra-chave, e a devolvia na forma de uma frase ou pergunta simples. A pessoa poderia escrever “os homens são todos iguais”, e ELIZA respondia, “em que aspecto você acha que os homens são todos iguais?”. Caso não funcionasse, o programa retornava a um conjunto de textos genéricos como "por favor, continue" ou "conte-me mais".



E para a surpresa de Weizenbaum, ELIZA criou a ilusão de empatia. Pessoas passaram a ter longas conversas com o bot. Embora o conteúdo da conversa não fosse muito profundo, a dinâmica se assemelhava muito a uma sessão de terapia.


Naquela época, o campo de estudos da inteligência artificial era algo relativamente novo e cheio de otimismo. Pesquisadores do MIT e de todo o Vale do Silício sonhavam em criar um mundo em que humanos e tecnologia coexistissem e cooperassem de formas inéditas. Weizenbaum, no entanto, passaria a trilhar um caminho completamente diferente, manifestando-se abertamente contra o rompimento das barreiras que separam humanos e máquinas – indo contra a tecnologia que ele mesmo ajudara a construir.



Breve história da IA


O fascínio pela IA não é algo novo. Diversas culturas de diversas épocas tiveram interesse em criar ou simplesmente ter, de alguma forma, dispositivos mecânicos que imitassem o nosso comportamento. Para citar alguns exemplos: os egípcios construíam estátuas representando suas divindades para pedir-lhes conselhos; o Budismo descreve "pessoas preciosas de metal" que recitavam textos sagrados; o deus grego Hefesto, ferreiro do Olimpo, amava criar robôs. E no século XX, com a chegada dos primeiros computadores na década de 1950, chegamos ainda mais perto de realizar essas fantasias.


Um dos percursores do computador, o matemático britânico Alan Turing, que se tornou conhecido através da interpretação de Benedict Cumberbatch no filme “O Jogo da Imitação” (2014), escreveu Computing Machinery and Intelligence em 1950. No artigo, Turing já imaginava um mundo no qual as pessoas construiriam uma máquina que realmente "pensa". Foi ali que ele propôs o "teste de Turing", no qual uma pessoa conversa com um humano e com um robô, localizados em salas diferentes, e precisa descobrir qual é qual. Se o robô for convincente – ou seja, se ele se passar por um humano – ele passa no teste. Turing imaginou que essa “confusão” iria ocorrer um dia de forma tão consistente que passaríamos a falar em máquinas inteligentes.


Embora estejamos cada vez mais perto do que Turing previu, há uma barreira que ainda persiste: a linguagem humana, em IA chamada de "linguagem natural". O processamento dela é difícil para uma IA por ser praticamente equivalente ao pensamento humano – ela reúne todo o nosso conhecimento sobre como o mundo funciona, incluindo nossa compreensão de outros seres humanos e nosso bom senso sobre conceitos fundamentais. Melanie Mitchell, cientista da computação, dá como exemplo a frase "uma bola de aço caiu sobre uma mesa de vidro e quebrou". Para um ser humano é óbvio que "isso" se refere à mesa de vidro. As máquinas, no entanto, podem ou não ter conhecimento contextual suficiente sobre materiais e física para chegar a essa mesma conclusão. E todo esse conhecimento teria que ser programado nelas.


Weizenbaum se opunha à idéia de que algo tão íntimo como uma sessão de terapia poderia ser reduzido a códigos, defendendo que os campos que exigem compaixão e compreensão humana – empatia, justamente – não devem ser automatizados. Weizenbaum temia que os chatbots enganariam as pessoas, fazendo-as crer que estão falando com uma pessoa, e não uma máquina. Mas os usuários do ELIZA sabiam que estavam falando com uma máquina, e isso não os impedia de sentir que havia empatia por parte do bot, e ter empatia por ele. Haveria problema nisso?


Nos anos 80 cientistas de IA passaram a confiar em métodos estatísticos, adotando o uso de documentos para analisar padrões linguísticos. Na década de 2000, pesquisadores começaram a usar as chamadas redes neurais profundas (ou deep neural networks em inglês), treinando computadores a partir da enorme quantidade de dados que só se tornaram acessíveis com o surgimento da Internet. Programar uma máquina para analisar todos os tipos de linguagem disponíveis na web e aprender com isso é uma forma infinitamente mais rápida do que realizar uma programação passo a passo para que ela aprenda. Essas novas técnicas passaram e ser usadas nos chatbots de diversas formas. Há pesquisadores que “treinam” seus chatbots utilizando conversas gravadas, outros colocam os chatbots online, para que aprendam ao interagir diretamente com as pessoas.



Tempos modernos


Apesar de tudo isso, os chatbots contemporâneos e assistentes pessoais como Siri e Alexa ainda não conseguem "entender" os conceitos da maneira como nós entendemos, apesar de já terem se tornado bastante confiáveis, gentis e convincentes – e capazes de gerar algum grau de empatia. Um ótimo exemplo deste novo mundo é a IA Duplex, apresentada pelo Google em 2018. Na demonstração, ouvimos a IA telefonando para um cabeleireiro como se fosse uma secretária, para marcar um horário para sua “chefe”. Ela interage com a recepcionista do cabeleireiro de forma inacreditável, e a recepcionista nem suspeita que está falando com uma máquina.



Há dois aspectos linguísticos da comunicação oral entre humanos que fazem parte da camada mais profunda e característica, digamos assim, de cada um de nós. Quando estudamos um idioma estrangeiro já na fase da adolescência ou como adultos, aprendemos a pronunciar os fonemas, posicionar as palavras no lugar correto da frase, vocabulário, etc. Podemos pronunciar tudo perfeitamente, ter um sotaque impecável, e mesmo assim não soar como um falante nativo – e nem saber explicar porquê. Esta camada mais elaborada e complexa da comunicação oral é conhecida na linguística como prosódia. Aí entram entonação, ritmo e acento (intensidade, altura e duração), tanto de cada palavra como da frase inteira. Reproduzir a prosódia de um idioma estrangeiro é um desafio enorme, pois requer não só convívio com os falantes nativos como uma predisposição auditiva capaz de captar essas nuances da comunicação – e reproduzi-las.


E isso é que é impressionante na IA Duplex. Ela tem uma prosódia impecável do inglês, e até gagueja, hesita e faz sons como “hmmm”. Ela não soaria natural se não o fizesse – ironicamente, são justamente essas “falhas” de comunicação que nos tornam humanos e geram empatia por parte do ouvinte.



GPT2


Outro exemplo impressionante do uso de IA veio à tona no começo de 2019, quando a OpenAI, laboratório de pesquisa em IA sem fins lucrativos bancada por Elon Musk, desenvolveu o sistema GPT2, uma IA que usa um novo tipo de rede neural chamado Transformer. Desenvolvido por pesquisadores do Google em 2017, esse modelo de rede neural artificial foi criado para melhorar a compreensão da linguagem, para tarefas como tradução de línguas. A equipe da OpenAI percebeu que a ferramenta também era capaz de gerar textos, não só traduzir. E o GPT2 leu mais de 8 milhões de artigos on-line.


Como funciona? Você fornece ao GPT2 um texto – um primeiro parágrafo – e ele escreve o restante do artigo no mesmo estilo. Ele o faz concentrando-se em uma palavra de cada vez, para decidir qual deve ser a próxima palavra. Diferentemente do preenchimento automático que temos nos telefones celulares, o GPT2 cria frases extremamente coerentes que parecem realmente entender o que se quer contar.


Ainda assim, trata-se de uma máquina pensando. O GPT2 entende o idioma e constrói frases de forma impressionante, mas não consegue analisar e explicar fatos. Tudo o que ele “escreve” é ​​uma criação mirabolante, uma reprodução sistemática do que há na internet e nas informações básicas que lhe são fornecidas. E como ele apenas reproduz o que ele aprendeu na internet, ele cria embasamento – embora falso – para o conteúdo do texto que escreve: citações, estatísticas, dados etc. É um verdadeiro gerador de fake news.

Por isso mesmo que os pesquisadores que desenvolveram o GPT2 estão controlando cuidadosamente a divulgação de informações sobre o sistema. Por enquanto, nos resta ler este texto impressionante que o sistema escreveu. Deram a ele uma primeira frase totalmente fantasiosa sobre a descoberta de unicórnios dos Andes fluentes em inglês. Eis o primeiro parágrafo escrito por uma pessoa:


In a shocking finding, scientist discovered a herd of unicorns living in a remote, previously unexplored valley, in the Andes Mountains. Even more surprising to the researchers was the fact that the unicorns spoke perfect English.


O este é o restante do texto, escrito pelo GPT2:


The scientist named the population, after their distinctive horn, Ovid’s Unicorn. These four-horned, silver-white unicorns were previously unknown to science.

Now, after almost two centuries, the mystery of what sparked this odd phenomenon is finally solved.

Dr. Jorge Pérez, an evolutionary biologist from the University of La Paz, and several companions, were exploring the Andes Mountains when they found a small valley, with no other animals or humans. Pérez noticed that the valley had what appeared to be a natural fountain, surrounded by two peaks of rock and silver snow.

Pérez and the others then ventured further into the valley. “By the time we reached the top of one peak, the water looked blue, with some crystals on top,” said Pérez.

Pérez and his friends were astonished to see the unicorn herd. These creatures could be seen from the air without having to move too much to see them – they were so close they could touch their horns.

While examining these bizarre creatures the scientists discovered that the creatures also spoke some fairly regular English. Pérez stated, “We can see, for example, that they have a common ‘language,’ something like a dialect or dialectic.”

Dr. Pérez believes that the unicorns may have originated in Argentina, where the animals were believed to be descendants of a lost race of people who lived there before the arrival of humans in those parts of South America.

While their origins are still unclear, some believe that perhaps the creatures were created when a human and a unicorn met each other in a time before human civilization. According to Pérez, “In South America, such incidents seem to be quite common.”

However, Pérez also pointed out that it is likely that the only way of knowing for sure if unicorns are indeed the descendants of a lost alien race is through DNA. “But they seem to be able to communicate in English quite well, which I believe is a sign of evolution, or at least a change in social organization,” said the scientist.


Sim, o GPT2 inventou o nome Ovid’s Unicorn, o dr. Jorge Pérez da Universidade de La Paz, a origem argentina, os aliens e a evolução do DNA. A construção e a fluência do texto são inacreditáveis a tal ponto que não restam dúvidas que o texto foi escrito por uma pessoa. Mas não foi. E essa é uma das maravilhas da IA que vêm por aí.



Esse texto foi baseado no maravilhoso episódio do maravilhoso podcast 99% Invisible, disponível em https://99percentinvisible.org/episode/the-eliza-effect/

10 visualizações

Empathy Company

Av. Dra. Ruth Cardoso, 4777, 18º andar

Alto de Pinheiros | São Paulo/SP | Brasil

helloworld@empathy.com.br