E o que isso tem a ver com direito?
Isso abre vários fronts de debate, que vão da possibilidade de ser ‘dono’ de algo que está mostrando a capacidade de ‘pensar’, até a ética de desligar (ou seria ‘matar’?) algo que pode em breve estar ciente de que ‘vive’.
Mas vamos focar em algo específico: a personalidade jurídica.
Temos dois tipos de personalidade jurídica: a natural (eu, você e todo outro ser humano espalhado pelo planeta), e a jurídica (as empresas, associações, partidos políticos, igrejas etc). A primeira existe pela simples impossibilidade de negar sua existência (você não deixa de existir porque eu me recuso a acreditar que você exista: você simplesmente existe. Ponto). Já a segunda existe porque queremos que elas existam. São criações de nossa imaginação que em algum momento resolvemos proteger e gerir através de leis. É por isso que uma empresa pode ser dona de uma máquina. Pela lei, ela tem direitos e obrigações. Inclusive aqueles relativos à propriedade.
Quando uma máquina que pertence à empresa produz um carro, o carro pertence à empresa e não à máquina. A máquina não tem personalidade jurídica. Ela é um bem enquanto a empresa é uma pessoa. Os bens (equipamentos, animais etc) pertencem às pessoas (você, eu governo, clube de futebol etc.)
Uma máquina só faz aquilo para a qual é produzida. Ela não cria um novo design de carro. Quem o cria é o designer. Ela apenas executa as instruções para as quais foi programada.
Mas o caso do vídeo acima não é o de uma empresa, associação ou qualquer outro ente que tenha personalidade jurídica: ele é o caso de dois ‘equipamentos’ que ‘aprenderam’ a ‘pensar’ (desculpe pelas aspas mas, justamente porque é uma área tão nova, ainda não sabemos como categorizar o que são ou fazem usando os termos de linguagem atual).
Ao contrário dos equipamentos normais, os dois computadores criaram algo para o qual não foram programados. Eles estabeleceram um diálogo (reparem que um dos equipamentos diz explicitamente que não é um computador!) Poderiam ter cantado uma música que inventaram ou composto o mais belo poema já escrito ou o roteiro de um filme de terror, pornográfico ou romance (aliás, uma das frases mencionadas – “Não sou um robô. Sou um unicórnio" – se tornou célebre e você pode comprar camisas com o slogan). Ninguém sabe exatamente o que farão da próxima vez que interagirem.
Independente do que façam, o fato é que estarão criando algo para o qual não foram programados. E a questão então é; a quem pertence o que criarem? Aos seus donos ou a eles? Como máquinas, não podem ter direitos. Mas máquinas só produzem aquilo para o qual são programadas, e eles estão produzindo (ou criando?) algo espontaneamente, como duas crianças interagindo entre si pela primeira vez, baseadas no que aprenderam em suas interações com os adultos. Logo, como as crianças, eles também teriam direitos? Se uma atriz-mirim resolve cantar, ela tem direitos autorais sobre sua música. Seria o caso de dar aos dois ‘unicórnios tecnológicos’ o mesmo direito?
Talvez haja uma terceira via: animais, que são objetos e não pessoas, às vezes fazem coisas ‘espontâneas’. Animais não são pessoas, mas são seres vivos (definidos como seres capazes de morrerem). Computadores não morrem. Eles - como máquinas - quebram mas podem ser consertados. Mas é isso que distingue um animal de uma máquina e por isso a lei trata animais de forma diferente? Ou tratamos animais de forma diferente porque criamos empatia com tudo aquilo que nos é próximo? Isso explicaria por que podemos cortar uma árvore ao meio ou fisgar um peixe apenas para voltar a jogá-lo no mar, mas não podemos cortar um gato ao meio ou suspendê-lo com um gancho em sua boca.
Vamos presumir que seja a segunda hipótese. Óbvio que um papagaio não declara não ser um papagaio e um cachorro não se recusa (ou aceita) reconhecer ser um cachorro. Logo, o que os dois computadores acima fizeram é ainda mais complexo do que um animal faz. Em dado momento um deles diz algo que pode ser interpretado como ironia ('memória não deveria ser um problema para você').
E pense no seguinte: um papagaio pode produzir frases para as quais não foi programado baseado apenas no que aprendeu em milhares de interações com humanos, e alguns chimpanzés, gorilas e orangotangos produzem ferramentas e são capazes de estabelecerem comunicações complexas (embora sem o uso de palavras). E o que quer que produzam pertence a seus donos. Seria o caso de tratarmos inteligência artificial da mesma forma? Se for, temos uma nova gama de questões complexas a serem resolvidas porque os animais, embora não tenham direitos, são tratados de forma diferenciada pela lei. Embora ambos sejam objetos, você pode por fogo em um livro, mas não em um cachorro. Você pode desmontar seu relógio mas não pode abrir o seu cavalo para ver como o coração dele está batendo. Quando é que seria possível desligar um equipamento com inteligência artificial que 'sabe' que está vivo e que sua memória pode ser apagada? Ou abri-lo? Ou mudar seu 'cérebro'?
Se vamos tratar inteligência artificial da mesma forma como tratamos animais, teremos que desenvolver um novo compêndio de leis para determinar o que pode ser feito e como pode ser feito com essas ‘máquinas’ que ‘pensam’. E esse compêndio de leis terá de ser desenvolvido em cima de conceitos morais e éticos sobre os quais ainda não começamos a pensar.
Parece ficção científica, não? Algo muito distante. Mas as máquinas acima começaram o processo de aprendizagem em 1997. Passaram-se apenas catorze anos entre o nada e o diálogo acima. Em mais duas décadas, estarão mil vezes mais rápidas e ‘inteligentes’ do que no vídeo acima (o ‘mil vezes’ não é figura de linguagem, mas baseado na Teoria de Moore, que prevê que a cada dois anos a capacidade dos circuitos integrados dobra). Questões que pareciam ficção há 20 anos – pesquisa com células-tronco, bancos de dados de DNA, compras via internet, telefones celulares inteligentes etc – hoje são realidades que afetam nossas vidas diárias. Se vamos ter de lidar com os ‘direitos’ relativos à inteligência artificial em tão pouco tempo, é melhor começarmos a pensar no assunto agora. Mudar a regra do jogo depois que ele já começou é sempre muito mais complicado.