O Japão irá “revisar ativa e continuamente” as leis relacionadas à inteligência artificial para aprimorar sua capacidade de resposta às ameaças representadas por modelos de alto desempenho, como o Claude Mythos, da Anthropic, de acordo com uma nova proposta de política governamental sobre inteligência artificial divulgada nesta quinta-feira.
As principais considerações incluem a detecção precoce de empresas que desenvolvem e utilizam inteligência artificial de alto desempenho perigosa, a avaliação das vulnerabilidades e da segurança da inteligência artificial desenvolvida por elas e o combate às que desenvolvem e fornecem inteligência artificial considerada perigosa.
A proposta inclui medidas para fortalecer o Instituto Japonês de Segurança em Inteligência Artificial, do governo, inclusive por meio da contratação de pessoal especializado e do aumento do quadro de funcionários. O governo pretende aprovar a proposta logo após o período de consulta pública.
Com a expectativa de que a corrida pelo desenvolvimento da inteligência artificial continue acelerando, a importância de avaliar de forma rápida e precisa as vulnerabilidades e a segurança de novos modelos antes que cheguem ao mercado torna-se cada vez maior.
O projeto afirma que o Japão “participará de esforços internacionais de padronização de inteligência artificial”. As regras atuais que regem o desenvolvimento e o uso de inteligência artificial variam de país para país.
O governo também está considerando como lidar com situações em que determine que um modelo de inteligência artificial apresenta alto risco de uso indevido.
De acordo com as leis de inteligência artificial vigentes no Japão, o governo pode investigar o uso e os riscos. Embora possa fornecer orientação e aconselhamento às empresas, conforme necessário, esse regime regulatório não permite a aplicação de penalidades. O governo discutirá se as leis devem ser alteradas para permitir punição aos desenvolvedores.
A Anthropic, com sede nos Estados Unidos, implementou o Mythos gradualmente para um conjunto limitado de organizações, levando em consideração o risco de uso indevido. Se um desenvolvedor de inteligência artificial fornecesse indiscriminadamente um modelo de inteligência artificial com um nível de desempenho comparável, ele poderia ser usado para uma ampla gama de crimes cibernéticos.
Crescem as preocupações com o uso de inteligência artificial em ataques cibernéticos e no desenvolvimento de armas biológicas e químicas. O governo está trabalhando para fortalecer a capacidade de resposta da Agência Nacional de Polícia.
O plano também inclui medidas para combater deepfakes gerados por inteligência artificial. O Ministério da Economia, Comércio e Indústria liderará o apoio ao desenvolvimento de tecnologia para determinar se o material foi gerado por inteligência artificial.
Os setores de saúde, finanças e outras infraestruturas críticas estão particularmente vulneráveis a ataques cibernéticos.
O Hospital Nippon Medical School Musashikosugi, em Kawasaki, foi alvo de um ataque cibernético de ransomware realizado por um grupo de hackers estrangeiro em fevereiro, resultando no vazamento de informações pessoais de mais de 130 mil pacientes e funcionários.
Fonte ==> Exame
