Segurança

Um acordo histórico para lidar com os riscos da IA de fronteira

No dia 1º de novembro de 2023, o Reino Unido sediou o primeiro Encontro Mundial sobre Segurança da Inteligência Artificial em Bletchley Park, o berço da computação moderna. Líderes de 28 países e da União Europeia assinaram a Declaração de Bletchley, um documento histórico que estabelece uma compreensão compartilhada das oportunidades e riscos da IA de fronteira, que são sistemas onde enfrentamos os riscos mais urgentes e perigosos. 

Neste artigo, vamos analisar o que esse acordo significa para o Brasil e para o futuro da IA no mundo.

O que é a IA de fronteira e por que ela é tão importante?

A IA de fronteira é um termo que se refere aos sistemas de IA que são capazes de realizar tarefas complexas e sofisticadas, que antes eram exclusivas dos seres humanos, ou que ultrapassam as capacidades humanas. Alguns exemplos de IA de fronteira são: a geração de imagens, textos, vídeos e áudios realistas e indistinguíveis dos reais; a criação de arte, música, literatura e outras formas de expressão criativa; a tomada de decisões estratégicas, éticas e morais; a manipulação de dados, informações e conhecimentos; e a interação natural e emocional com os seres humanos.

A IA de fronteira tem um enorme potencial para transformar positivamente diversos setores da sociedade, como a saúde, a educação, a economia, a cultura, a segurança e a defesa. No entanto, ela também traz desafios e riscos, como a perda de empregos, a violação da privacidade, a desinformação, a discriminação, a manipulação, a autonomia, a responsabilidade e a confiança. Além disso, a IA de fronteira pode gerar cenários catastróficos, como a perda de controle humano sobre a tecnologia, a emergência de superinteligências hostis ou indiferentes aos valores humanos, e a extinção da humanidade.

Por isso, a segurança da IA de fronteira é um tema crucial e urgente, que requer uma abordagem coletiva e cooperativa entre os países, as organizações e as pessoas que desenvolvem e usam a tecnologia. A Declaração de Bletchley é um passo importante nesse sentido, pois reconhece a necessidade de entender e gerenciar os potenciais riscos da IA de fronteira, e estabelece princípios e objetivos comuns para o uso responsável da tecnologia.

Quais são os principais pontos da Declaração de Bletchley e como eles se relacionam com a política de IA do Brasil?

A Declaração de Bletchley tem seis objetivos principais: 

• Desenvolver princípios éticos que orientem o uso responsável da IA; 
• Remover barreiras à inovação; 
• Melhorar a colaboração entre governo, setor privado e pesquisadores; 
• Desenvolver habilidades em IA; 
• Promover investimentos em tecnologias; 
• Avançar a tecnologia brasileira no exterior. 

Esses objetivos são organizados em nove pilares ou eixos, que abordam temas como legislação, regulação, uso ético, qualificação para o futuro digital, aplicação da IA no governo, setores produtivos, pesquisa, desenvolvimento, inovação e empreendedorismo, inserção internacional e cooperação multilateral. 

A Declaração também adota os cinco princípios da OCDE para a IA responsável: 

• Crescimento inclusivo, 
• Desenvolvimento sustentável e bem-estar; 
• Valores humanos e equidade; 
• Transparência e divulgação responsável; 
• Robustez, segurança e confiabilidade; Responsabilização.

A estratégia nacional de IA do Brasil tem muitos pontos em comum com a Declaração de Bletchley, pois também segue os princípios da OCDE e tem nove eixos temáticos, que são: 

• Legislação, regulação e uso ético; 
• Qualificação para o futuro digital; 
• Aplicação da IA no governo; 
• Setores produtivos; 
• Pesquisa, desenvolvimento, inovação e empreendedorismo; 
• Inserção internacional; 
• Cooperação multilateral; 
• Infraestrutura de dados e conectividade; 
•  Governança da estratégia. 

No entanto, há algumas diferenças entre os dois documentos, como o foco na infraestrutura de dados e conectividade, que é um dos desafios do Brasil para o desenvolvimento da IA, e a ausência de um objetivo específico sobre a segurança da IA de fronteira, que é o tema central da Declaração de Bletchley.

Como o Brasil pode se preparar para o futuro da IA?

A Declaração de Bletchley é um marco importante para a cooperação internacional na área de IA, especialmente na segurança da IA de fronteira, que são sistemas onde enfrentamos os riscos mais urgentes e perigosos. 

O Brasil, como um dos signatários do acordo, tem a oportunidade de participar ativamente desse processo e contribuir com sua experiência e visão sobre o desenvolvimento e o uso da IA. 

No entanto, o Brasil também enfrenta desafios, como a falta de infraestrutura de dados e conectividade, o baixo investimento em pesquisa e inovação, a escassez de talentos e habilidades em IA, e a necessidade de uma legislação e regulação adequadas para a tecnologia. 

Para superar esses obstáculos, o Brasil precisa implementar sua estratégia nacional de IA, que foi lançada em abril de 2023, e fortalecer a colaboração entre o governo, o setor privado, os pesquisadores e a sociedade civil. 

Além disso, o Brasil precisa acompanhar os avanços da IA de fronteira e garantir que ela seja usada de forma ética, responsável e segura, para o benefício de todos. 

Como você acha que o Brasil pode se preparar para o futuro da IA? Quais são os principais riscos e oportunidades que a IA de fronteira traz para o país? Como podemos garantir que a IA seja usada para o bem comum e não para o mal?

Reflexões finais

A segurança da inteligência artificial é um assunto que nos afeta a todos, pois a tecnologia tem o poder de mudar o mundo para melhor ou para pior. 

A Declaração de Bletchley é uma iniciativa louvável que busca promover o uso responsável da IA, especialmente da IA de fronteira, que são sistemas onde enfrentamos os riscos mais urgentes e perigosos. 

O Brasil, como um dos países que assinaram o acordo, tem a responsabilidade e a oportunidade de participar dessa discussão e de se preparar para o futuro da IA. 

Esperamos que este artigo tenha sido informativo e que tenha despertado a sua curiosidade e reflexão sobre o tema. Se você gostou, por favor, curta, comente e compartilhe. Se você quiser saber mais sobre a notícia que me motivou a pesquisar e escrever este artigo, clique aqui: Britain publishes Bletchley Declaration on AI safety.

By IDFM

Na Vibe de Prometeu, o conhecimento te liberta!

Ler mais