TropicAI

Mais transparência, explicabilidade, prestação de contas, transdisciplinaridade e multiculturalidade no desenvolvimento de uma IA de confiança, em infraestruturas livres e compartilhadas.

Instituto Ethikai

Paola Cantarini

Nas últimas semanas, diante do rápido avanço e utilização em larga escala por diversas parcelas da população de ferramentas de IA baseadas em processamento de linguagem natural, a exemplo do CHATGPT, não obstante outras preocupações com demais aplicações de IA, em especial de alto nível de risco, que são lançadas no mercado mesmo sem conhecimento acerca de todos os possíveis impactos e externalidades, em especial aquelas potencialmente negativas, foram divulgadas algumas manifestações por parte de pesquisadores, empresários e de países como Itália, e de modo geral a EU, solicitando ou aplicando desde logo uma suspensão ou moratória, e em alguns casos banimento (CHATGPT).

Entre outros pontos problemáticos destacados encontra-se a possível afronta a normas protetivas de dados pessoais, a exemplo do GDPR europeu e no Brasil da LGPD, podendo ser citados, a exemplo, os princípios de transparência, boa-fé, minimização de dados e direitos do usuário, como o de ter informações prévias e de qualidade. Como pode ser observado da página institucional da empresa OPEN AI, como parte do que se poderia entender de “compliance”, há alguns poucos documentos recentemente publicados (“Documents and policies”), trazendo um nível fraco de informações (qualitativa e quantitativa), mas longe de poderem ser qualificados como instrumentos de “compliance”, a exemplo do Relatório de Impacto de Proteção de Dados (DPIA), ou o AIIA – Avaliação do Impacto algorítmico, tal como recomendado por diversos documentos internacionais e organismos internacionais de mais alto renome, com o intuito de se verificar potenciais riscos a direitos fundamentais/humanos, verificar o nível de risco segundo padrões, “frameworks” e documentos internacionais e adotar medidas de mitigação de riscos. Ainda 2 dos documentos citados são recentes, publicados após o produto estar no mercado (01.03.23, e 23.03.2023), e outros não constam a data da versão de elaboração, e não são completos no sentido “de compliance”, a começar por ter sido a própria empresa que criou e mediu quais atividades entendia ser de mais alto risco que outras, para trazer parcas recomendações. Ainda a postura não é pro-ativa (subprincípio do “privacy by design”), pois com isso não recai o ônus na empresa ser mais protetiva e respeitar os requisitos para uma IA de confiança, mas joga a responsabilidade para o usuário ao mencionar que se ele adotar as singelas recomendações seria a aplicação segura e responsável.

Diante do cenário da sub-representação de países do Sul-Global no conjunto das discussões envolvendo a temática da IA, e pois da falta de diversidade epistêmica, como também pela sub-representação, nas discussões em órgãos específicos que cuidam da temática e de órgãos de supervisão de documentos de “compliance”, de parcelas de grupos vulneráveis, apesar de algumas propostas isoladas no sentido de uma IA decolonial, bem como de uma IA inclusiva e democrática, atrelada ao respeito das características sócio-culturais de cada país, há ainda poucas iniciativas pontuais em tal sentido, e até o momento sem expressividade no Brasil.

A presente petição pretende ser um manifesto apelando ao maior engajamento social, político e público no geral, seja por meio de incentivos econômicos a boas práticas, de “compliance”, em equipes de pesquisadores com expertise no tema e transdisciplinar, além de investimentos nas Universidades Públicas para terem possibilidade de acompanharem de forma independente as discussões e concorrerem com as “Big techs”, já que somente estas possuem os meios financeiros, a infraestrutura, e o enorme banco de dados necessários para tal desenvolvimento, a fim de contornar a questão da assimetria informacional na área. É urgente o posicionamento do País em termos de políticas públicas e incentivos, até mesmo fiscais, doações por parte de particulares, para a adoção de boas práticas, em startups e pequenas empresas que atuem com aplicações de alto risco para tomarem medidas de “compliance”, sem obstar a inovação, a formação e contratação de equipes especializadas e investimento público nas Universidades Públicas e privadas de reconhecida qualidade nas áreas pertinentes, em especial com foco nas humanidades, diante do número irrisório de bolsas de pesquisa e incentivos para pesquisas de ponta em tal área.

Entendemos que é uma perspectiva mais que a da “human-centered AI”, mas de “life centered AI”, contemplando a preocupação com os aspectos da inclusão, da diversidade, e do respeito dos direitos fundamentais e humanos, em todos os níveis, individual, coletivo e social, sendo necessária a busca de uma proporcionalidade entre se garantir o desenvolvimento tecnológico e também garantir a proteção de tais direitos, assim reduzindo as externalidades negativas, e considerando sobretudo o contexto sócio-cultural do país e do usuário em questão.

Diante da característica epistêmica fundamental da IA, como oriunda de uma disciplina transclássica, holística, a Cibernética, é essencial o fortalecimento da pesquisa também nos campos das humanidades, do pensamento crítico, inovador e independente, pois a temática exige a trans/interdisciplinaridade para ser bem compreendida e adequadamente regulamentada.

Neste sentido, conclamamos, todos os países do Sul Global e quem mais compreenda a importância decisiva de tal agenda em qualquer parte do mundo a se unirem em busca em torno dela e demais que sejam afins, numa perspectiva de longo prazo, a qual contribuiria para o benefício de toda a sociedade e fortalecimento do Estado Democrático de Direito, local e mundialmente. Neste sentido, poderia ser mencionado o favorecimento de taxas ou impostos beneficiando não a automação, por exemplo, como ocorre nos EUA, mas investimentos na produção do conhecimento crítico, trans/interdisciplinar, com investimentos prioritários nas universidades públicas, em novas habilidades necessárias diante da maior automação ainda com a IA, já que está ocorrendo uma queda nos níveis de tal investimento (a exemplo dos EUA, com redução de 50% dos investimentos nos últimos dez anos), a fim de termos uma menor inequidade social, resgatando alguns princípios do Estado de Bem estar social, e com isso reduzir a violência disseminada socialmente.

Necessitamos, portanto, com urgência, conclamar a união de representantes do sul global, também para não sermos apenas dependentes da tecnologia, mas produtores da tecnologia, e do conhecimento em geral, que venha em nosso favor, e o presente manifesto vai ao encontro de tal perspectiva, a exigir a participação de representantes do Sul global nas discussões internacionais, e em órgãos coletivos representativos de tais temáticas, a fim de termos o respeito ao aspecto cultural, assim possibilitando que a voz de todos seja ouvida, para então ampliarmos o conceito de equidade e justiça algorítmica, como a justiça social como um todo, evitando-se afrontas ainda ao que se denomina princípio de proibição do retrocesso social.

Neste contexto de nível de complexidade absurdo, velocidades de mudanças vertiginosas, nos parece urgente a criação de arcabouço jurídico regulamentando produção, usos e aplicações de sistemas de IA, sem prejuízo de incentivos a boas práticas e de “compliance”, pois no nosso entender a melhor opção seria a heteroregulação urgente, ainda que, porventura não completa ou deficitária, mas preferível a nenhuma; as “brechas” se darão de todo modo. Neste sentido, a criação de uma Autoridade Nacional também nos parece crucial.

Outro ponto fundamental a ser observado é a proposta de poder geral de cautela (Belmiro Patto) mediante certas condições que possibilitasse a suspensão imediata de tecnologias de risco excessivo ou mesmo de alto risco, pois a pausa anunciada por apenas seis meses não irá solucionar tal problemática questão. O problema do controle (Deleuze) atingiu toda a noosfera, a infosfera, assim, as saídas serão sempre parciais e precárias, não parecendo ser possível se alcançar uma pretensão universalizante dessa questão (mesmo porque o conceito de universal, que segundo Badiou surge com São Paulo, é limitado às religiões cristãs, e ao Ocidente, que mais a adota por assim dizer), e não teria o condão de observar o contexto sócio-cultural de cada país, a não ser de maneira muito genérica ou na forma mais de uma solução de compromisso.

Diante de tais questões, o manifesto também é no sentido da urgente necessidade de se promulgar a legislação federal acerca da IA para nosso país, mesmo porque já há algumas legislações estaduais sendo aplicadas. Em especial, torna-se urgente quanto à IA de alto risco, a exemplo da aplicação de “reconhecimento facial” em escolas de ensino fundamental e médio, bem como diante de outros grupos vulneráveis, com diversas fragilidades, sem observância de uma lista de princípios e direitos assegurados, e sem medidas de “compliance” mínimas, em especial o Relatório de Impacto de Proteção de Dados (DPAI) e a Avaliação de Impacto Algorítmico (AIIA), com foco em direitos fundamentais. O presente manifesto também vai neste sentido de uma convocação ao Poder Legislativo brasileiro para que torne a questão urgente e a enfrente!

Por derradeiro, na esteira da iniciativa tomada por Chile, e assim como houve o reconhecimento expresso via emenda constitucional da proteção de dados como direito fundamental na CF88, é urgente que esta também preveja de forma expressa novos direitos fundamentais, denominados como “neurorights” (neurodireitos), sendo estes:

1. O direito à privacidade mental
2. O direito à identidade pessoal
3. O direito ao livre-arbítrio
4. O direito à igualdade de acesso ao aumento mental
5. O direito à proteção contra preconceitos

Propõe-se ainda que sejam positivados via emenda constitucional, antes de tal inserção de novos direitos fundamentais, um “caput”, ao artigo respectivo, constando como valor essencial do Estado Democrático de Direito e em respeito aos valores republicanos, que o desenvolvimento científico e tecnológico relacionado, em especial a tecnologias disruptivas como a IA, obrigatoriamente deverá estar a serviço das pessoas (life-centered AI) e, ainda, deverá observar além de tais valores o respeito aos direitos fundamentais de todos, incluindo a proteção dos novos neurodireitos, englobando a atividade cerebral, e as informações dela provenientes, exigindo-se prévia avaliação e autorização de forma similar às regulamentações da área médica/farmacológica, bem como seja expressamente declarada a proibição da compra ou venda de tais dados fruto de tais análises.

P.S.: Agradeço a leitura atenta e os comentários valiosos ao presente manifesto, em especial a Willis S. Guerra Filho, Belmiro Patto e Cristina Amazonas, no âmbito do Grupo de Estudos do Instituto Ethikai – ethics as a service.

Assinam o presente Manifesto:

• Ordep José Trindade Serra – Professor emérito Universidade Federal da Bahia.
• Oswaldo Giacóia Jr. – Professor emérito Universidade Estadual de Campinas.
• Wolfgang Hoffmann-Riem – Professor emérito da Universidade de Hamburgo.
• Elígio Resta – Professor emérito da Faculdade de Direito da Università di Roma TRE.
• Wagner Balera – Professor titular de Direitos Humanos da Pontifícia Universidade Católica de São Paulo.
• Nuria Belloso Martín – Professora titular de Filosofia do Direito da Universidade de Burgos.
• Fabián Ludueña Romandini. Filósofo. Investigador concursado do Consejo Nacional de Investigaciones Científicas y Técnicas (CONICET), Argentina, membro do Instituto de Investigaciones “Gino Germani” e professor de Filosofía política na pós-graduação da Facultad de Ciencias Sociales da Universidade de Buenos Aires (UBA). Professor titular de Filosofia e Ética na Universidade Argentina da Empresa (UADE).
• Willis Santiago Guerra Filho – Professor titular da Universidade Federal do Estado do Rio de Janeiro.
• Belmiro Patto – Professor da Universidade Estadual de Maringá.
• Wilson Engelmann – Professor da UNISINOS.
• Urbano Nobre – Professor da PUCSP.
• Marcio Pugliesi – Professor da PUCSP.
• Mara Regina de Oliveira – Professora da PUCSP e da USP.
• Jefferson Carús Guedes – Professor Titular do CEUB.
• Eduardo C. B. Bittar – Professor Associado – Faculdade de Direito – USP.
• Marcos Catalan – Professor da Universidade LaSalle.
• Samyra Haydee Dal Farra Naspolini – Professora permanente do Programa de Mestrado em Direito na Sociedade da Informação da FMU e Diretora Executiva do Conselho de Pesquisa e Pós Graduação em Direito – CONPEDI. 
• Viviane Sellos Knoerr – Professora e Coordenadora do Programa de Mestrado e Doutorado em Direito Empresarial e Cidadania do Centro Universitário Curitiba / Unicuritiba.
• Antonio Carlos Matteis de Arruda Junior Professor Doutor da PUC/SP.
• Edgar Gastón Jacobs – Coordenador do Projeto de Direito SKEMA Business School.
• Thiago Aguiar de Pádua – Professor da Faculdade de Direito da UnB.
• Yara Alves Gomes – Professora da Uninove.
• Luciana S. Neves – Ethikai.
• Marcelo Graglia – Professor da PUCSP.
• Lafayette Pozzoli – Professor da PUCSP.
• Maria Cristina Vidotte – Professora titular da Universidade Federal de Goiás, nos Programas de Pós Graduação em Direito Agrário e no Doutorado da Rede Pro Centro Oeste de Biotecnologia Biodiversidade, e no Programa de Pós Graduação em Direitos Coletivos e Cidadania da Universidade de Ribeirão Preto.
• Fausto Morais –  Professor da Escola de Direito e do PPGD da Faculdade Meridional – IMED/Passo Fundo.
• Eduardo Dias de Souza Ferreira – Procurador de Justiça e Professor de Direitos Humanos da PUCSP.
• Fretz Sievers Junior – Ethikai.
• Rafael Sacramento – Ethikai.
• Noemi Lemos França – QS17 Paradiplomacia.
• Cláudia Sousa Leitão- Tempo de Hermes Projetos Criativos.
• Victoria Bianqueti – Cátedra Oscar Sala, IEA-USP.
• Renato Maso Previde – Professor da Universidade Estadual de Passos/MG.
• Rafael Fonseca Ferreira – Professor da Universidade Federal do Rio Grande.
• Matheus de Alencar e Miranda – Doutor em Direito Penal pela UERJ. Consultor jurídico na Gussem – Saad Consultoria e Product Owner.
• Angelo Antonio Pires de Oliveira – Professora da Universidade Católica de Santos.
• Marcia Pitta Aquino – Ethikai.
• Yaritza del Carmen Perez Pacheco – Universidad Virtual Anáhuac, Huixquilucan, México.
• Kamila de Souza Gouveia – Ethikai.
• Ricardo Lima Praciano de Sousa – Cátedra Oscar Sala, IEA-USP.
• Carolina Christofoletti – Cátedra Oscar Sala, IEA-USP.
• Luciana Moherdaui – Cátedra Oscar Sala, IEA-USP.
• Rodrigo Moon – Cátedra Oscar Sala, IEA-USP.
• Sergio Godoy – Cátedra Oscar Sala, IEA-USP.
• Roberto Marcio Braga Junior – Estudante de Direito na Universidade Paulista e estudante de Análise e desenvolvimento de sistemas na Universidade Católica de Santos.
• Carolina Viana de Barros – Ethikai.
• Jefferson Fernando de Andrade Souza – Consultor e socio da ProjeXS Consultoria.
• Bernardo Beiriz – Cátedra Oscar Sala, IEA-USP.
• Juliette Robichez – Professora do Centro Universitário Jorge Amado (Unijorge), Salvador, Ba.
• Thiago Felipe Avanci – Ethikai e Dfast.
• Thayla Bertolozzi – Mestranda em Humanidades, Direitos e Outras Legitimidades (PPGHDL/USP).
• Bruno Henrique Simões Dantas – Universidade Federal do Oeste do Pará.
• Patricia Huelsen – Medialab, Ethikai.
• Camila Mattos da Costa – Ethikai e Cátedra Oscar Sala, IEA-USP.
• Paulo Campanha Santana – Advogado e pesquisador.
• Germano Schwartz – Diretor Executivo da Pesquisa e da Pós-Graduação na Ânima Educação. Professor do Mestrado em Direitos Humanos do Centro Universitário Ritter dos Reis – UniRitter. Líder do Working Group “Social and Legal Systems” do RCSL/ISA.
• Anna Pinho – Ethikai.
• Juliana Duarte – Ethikai.
• Andre Meira – Instituto Silvio Meira.
• Instituto Pro-vítima – Celeste Leite dos Santos.
• Rommell Ismael Sandoval Rosales, Director I&D Consulting, El Salvador. Docente en derechos fundamentales, litigio y evidencia, derecho procesal.
• Allam Correia Freitas – Universidade Católica de Santos.
• Alexandre Bruno – Professor da Universidade Estadual do Ceará.
• CsViews – Celeida Laporta.
• Francisco Regis Frota Araujo – Professor titular da Universidade Federal do Ceará.
• Raúl Andrade Osorio – Benemérita Universidad Autónoma de Puebla
• Abílio Osmar dos Santos – Advogado e doutorando na PUCSP.
• Lucas Baltasar Morimoto da Silva – Ethikai.
• Joaquim Eduardo Pereira – Professor da Faculdade Autônoma de Direito de São Paulo.
• Emerson Wendt – Delegado de Polícia, especialista em investigação de crimes cibernéticos e segurança da informação, professor de inteligência policial.
• Faiz Ayat Ansari – Dfast.
• Rafael Souza da Silva – Pesquisador da Universidade Católica de Santos.
• Gabrielle de Oliveira Ferreira – Estudante pesquisadora do Grupo de Pesquisa de Direitos Fundamentais, Ambiente, Sociedade e Tecnologia e do Grupo de Pesquisa Regimes e Tutelas Constitucionais, Ambientais e Internacionais, ambos da Universidade Católica de Santos.
• Flavio de Leão Bastos Pereira – Professor e Pesquisador com Doutorado e Mestrado em Direito Político e Econômico pela Universidade Presbiteriana Mackenzie. Pós-doutorado em New Technologies and Law – Mediterranea International Centre for Human Rights Research.
• Terso Willis Pinheiro Guerra – Cientista de dados, Ethikai.
• Gabriel Willis Pinheiro Guerra – Cientista da computação, Ehikai.
• Lucas Amato – USP, Direito.
• Anderson Rohe – Cátedra Oscar Sala – IEA USP.
• Joana Rita de Sousa Covelo de Abreu – Professora da Escola de Direito da Universidade do Minho, Portugal.
• Nelson Cerqueira – UFBA.
• Sandra Dias – PUCSP.
• Vanessa Féra – Comissão de IA e Proteção de Dados OABSP Jabaquara/Saúde.
• Francisco Soares Campelo Filho – Instituto AKADEMUS.
• Flavio Leão Bastos – Comissão de Direitos Humanos  da OABSP.
• Luiz Felipe Calabró – PUCSP.
• Flavia Figueira – Ethikai, advogada.
• Faiz Ayay Ansari – PhD research scholar National law school of India,  University Bangalore.
• Emerson Wendt – Ethikai.
• Eduardo Ariente – professor universitário e pesquisador.
• Veyzon Campos Muniz – Doutorando no Programa de Doutoramento em Direito Público – Estado Social, Constituição e Pobreza do Instituto Jurídico da Universidade de Coimbra.
• Victoria Bianquetti – Cátedra Oscar Sala – IEAUSP.
• Lucas Morimoto – Ethikai.
• Ricardo Lima Praciano de Sousa –  Pesquisador em Educação e IA.
• Gabriel Engel Ducatti – mestrando em filosofia na UNESP, prof. da rede estadual de São Paulo.
• Makely Ponso – Especialista em Tecnologia Jurídica.
• Erika Ribeiro de Albuquerque – Advogada e Mestra em Planejamento e Políticas Públicas pela UECE.
• Jennifer Aline Ernesto de Oliveira – Advogada, bacharel e mestranda em direito na PUCSP.
• Edson Vieira Abdala – Advogado e Doutorando UFSC.
• Rodrigo Pardal – Advogado e Doutorando PUCSP.
• Lauro Mens de Mello – Desembargador TJ-SP.
• Mariah Brochado Ferreira – Professora Titular de Filosofia da Tecnologia e do Direito da Faculdade de Direito da UFMG.
• Ney José de Freitas – Magistrado e Professor.
• Edson Vieira Abdala – Advogado e Doutorando UFSC.
• Karel Guerra – Advogado e presidente da Florar, associação de pacientes de cannabis medicinal.
• Roberto Bueno – Professor da Faculdade de Direito e Relações Internacionais da UFU.
• Ricardo Piragini – Mestre em Direito pela PUC/SP.
• Roberto Freire – Advogado criminalista e mestrando em Direito pela UNIFOR.
• César Barreira – Instituto Norberto Bobbio. Ana Paula Rosário Moreira – Graduanda da Universidade do Estado da Bahia e Ciberativista do Canal Corpo Político.