A assinatura do acordo de segurança de IA do Reino Unido e dos EUA é um evento histórico sem precedentes.
Acordo entre Reino Unido e EUA concentra-se em avaliações de segurança de IA
Com base numa cooperação sem precedentes, o Reino Unido e os EUA chegaram a um acordo inicial para garantir a segurança da IA, que marca o primeiro na história, que destaca principalmente as avaliações de segurança.
No campo da inteligência artificial, onde este trabalho poderá ser aplicado, as duas nações cooperarão entre si para criar meios “fortes” de verificação da segurança da IA, bem como seus modelos construídos. Esta parceria é considerada um marco por ser a primeira entre o Reino Unido e os EUA na história da evolução da inteligência artificial.
Ao comentar o acordo, a ministra de tecnologia do Reino Unido, Michelle Donelan, caracterizou-o como “a missão tecnológica mais crucial que a nossa geração enfrenta”.
“Tem sido nossa posição consistente que a IA é uma questão de importância global para o seu desenvolvimento seguro”, declarou ela. “Ao nos unirmos, podemos enfrentar estes riscos de forma direta e capitalizar as possibilidades ilimitadas que a tecnologia traz para todas as nossas vidas, tornando-as mais saudáveis e mais simples.”
Em particular, este acordo decorre da Cimeira de Segurança de IA anterior, que teve lugar em Bletchley Park em novembro de 2017. A cimeira contou com a presença de importantes especialistas em IA, como Sam Altman da OpenAI, Demis Hassabis do Google DeepMind e o bilionário tecnológico Elon Musk. Além disso, a parceria resultou no estabelecimento de institutos independentes de segurança de IA, tanto no Reino Unido como nos EUA, responsáveis pela avaliação dos padrões de segurança para sistemas de IA de código aberto e fechado.
Os riscos e preocupações relativos à segurança da IA são numerosos. O que você diria que alguns deles poderiam ser?
Muitas das ferramentas de IA empregadas atualmente são o que chamam de ferramentas de IA restritas, o que significa que podem fazer coisas simples que as pessoas também poderiam fazer. Os verdadeiros riscos de segurança giram em torno do progresso da IA, onde a tecnologia pode ir além da análise de dados ou fornecer respostas aprendidas a perguntas e assumir tarefas complicadas.
O objetivo do acordo Reino Unido-EUA não é travar o desenvolvimento da IA, mas garantir que os princípios de segurança da IA andam de mãos dadas com a evolução da IA. Além disso, as organizações de IA devem ter em consideração que os preconceitos de nós, humanos, podem estar presentes nos modelos de linguagem, uma vez que estes sistemas de IA aprendem conosco.
