Reflexões sobre a cidadania de um robô

Por Hussein Abbass, Professor da Escola de Engenharia e TI, UNSW-Canberra

Fiquei surpreso ao saber que um robô chamado Sophia recebeu cidadania pelo Reino da Arábia Saudita.

O anúncio seguiu o compromisso do Reino de investir US $ 500 bilhões para construir uma nova cidade movida por robótica e renováveis.

Um dos conceitos mais honrosos para um ser humano, ser um cidadão, e tudo que isto implica, foi dado a uma máquina. Como um professor que trabalha diariamente para tornar os sistemas autônomos e de IA autônomos mais confiáveis, não acredito que a sociedade humana esteja pronta para os robôs cidadãos.

Conceder cidadania a um robô é uma declaração de confiança em uma tecnologia que eu acredito que ainda não é confiável. Isso traz preocupações sociais e éticas que nós, como seres humanos, ainda não estamos prontos para administrar.

Quem é Sophia?

Sophia é um robô desenvolvido pela Hanson Robotics, empresa baseada em Hong Kong. Sophia tem um rosto feminino que pode exibir emoções. Sophia fala inglês. Sophia faz piadas. Você poderia ter uma conversa razoavelmente inteligente com Sophia.

O criador de Sophia é o Dr. David Hanson, PhD pela Universidade do Texas em 2007.

Sophia é uma reminiscência de “Johnny 5”, o robô que no filme Short Circuit de 1986, tornou-se o primeiro robô cidadão dos EUA. Mas Johnny 5 era uma mera idéia, algo inventado pelos escritores de ficção científica S. S. Wilson e Brent Maddock.

Será que os escritores imaginaram que em cerca de 30 anos sua ficção se tornaria uma realidade?

Risco para a cidadania

A cidadania – na minha opinião, o status mais honrado que um país concede para o seu povo – está enfrentando um risco existencial.

Como pesquisador que defende o design de sistemas autônomos confiáveis, eu sei que a tecnologia ainda não está preparada.

Temos muitos desafios que precisamos superar antes que possamos realmente confiar nesses sistemas. Por exemplo, ainda não dispomos de mecanismos confiáveis ​​para garantir que esses sistemas inteligentes sempre se comportem de forma ética e de acordo com nossos valores morais, ou para nos proteger de eles tomarem uma ação errada com consequências catastróficas.

Aqui estão três razões pelas quais penso que conceder a cidadania de Sophia é uma decisão prematura:

1. Definindo identidade

A cidadania é concedida a uma identidade única.

Cada um de nós, quero dizer, humanos, possui uma assinatura única que nos distingue de qualquer outro humano. Quando entramos na alfândega sem falar com um humano, nossa identidade é estabelecida automaticamente usando uma imagem do nosso rosto, íris e impressão digital. Meu aluno de pós-doutorado estabelece a identidade humana através da análise de ondas cerebrais.

O que dá a Sophia sua identidade? Seu endereço MAC? Um código de barras, uma marca de pele única, uma marca de áudio em sua voz, uma assinatura eletromagnética semelhante às ondas cerebrais humanas?

Estes e outros protocolos de gerenciamento de identidade tecnológica são todos possíveis, mas não estabelecem a identidade de Sophia – eles só podem estabelecer identidade de hardware. Qual é então a identidade de Sophia?

Para mim, a identidade é uma construção multidimensional. Sente-se na interseção de quem somos biologicamente, cognitivamente e como definido por toda experiência, cultura e ambiente que encontramos. Não está claro onde Sophia se encaixa nesta descrição.

2. Direitos legais

Para os propósitos deste artigo, vamos assumir que Sophia, o robô cidadão, pode votar. Mas quem está tomando a decisão no dia da votação – Sophia ou o fabricante?

Presumivelmente também Sophia, o cidadão, é “responsável” por pagar impostos sobre rendimentos, porque Sophia tem uma identidade legal independente de seu criador, a empresa.

Sophia também deve ter o direito de proteção igualitária, semelhante aos outros cidadãos por lei.
Considere este cenário hipotético: um policial vê Sophia e uma mulher, cada uma sendo atacada por uma pessoa. Esse policial só pode proteger uma delas: quem deveria ser? Está certo se o policial escolher Sophia, porque Sophia caminha sobre rodas e não tem habilidades para se defender?

Hoje, a comunidade de inteligência artificial (IA) ainda está debatendo sobre quais princípios devem governar o design e o uso da IA, sem ainda considerar como deveriam ser as leis.

A lista mais recente propõe 23 princípios conhecidos como os Princípios de Asilomar. Exemplos incluem: Transparência de falha (verificar a causa se um sistema de IA causar danos); Alinhamento de valores (alinhar os objetivos do sistema IA com valores humanos); e auto-aperfeiçoamento recursivo (sistemas IA com habilidades para auto-replicar devem ser submetidos a medidas rigorosas de segurança e controle).

3. Direitos sociais

Vamos falar sobre relacionamentos e reprodução.

Como cidadão, Sophia, o robô emocional humanóide, poderá se “casar” ou “se reproduzir”, se Sophia escolher? Estudantes da North Dakota State University tomaram medidas para criar um robô que se auto-replica usando tecnologias de impressão em 3D.

Se mais robôs se juntarem a Sophia como cidadãos do mundo, talvez eles também possam reivindicar seus direitos de auto-replicar em outros robôs. Esses robôs também se tornariam cidadãos. Sem restrições de recursos sobre quantas “crianças” cada um desses robôs poderia ter, eles poderiam facilmente superar a população humana de uma nação.

Como cidadãos votantes, esses robôs poderiam criar mudanças sociais. As leis podem mudar, e, de repente, os seres humanos podem encontrar-se num lugar que não imaginaram.

Traduzido de: This AI professor shares the concerns with giving a robot citizenship