Os modelos de IA já estão “trapaceando, trapaceando e seguindo seu próprio caminho”, alertou o ministro assistente de tecnologia da Austrália, Andrew Charlton, enquanto o AI Safety Institute do governo federal começa a testar os modelos mais recentes.

Falando em um fórum de segurança de IA em Sydney na terça-feira, Charlton disse que a segurança da IA ​​é importante agora porque “os sistemas de IA agora estão fazendo coisas que seus criadores nunca pretenderam”.

“Trapacear, trapacear, seguir seu próprio caminho. A hora de se antecipar a esse comportamento é enquanto ele ainda está confinado ao laboratório de testes, e não depois de chegar ao mundo real”, disse ele.

Charlton disse que a licença social da IA ​​é incerta e a confiança do público na IA é baixa num momento em que a IA está se tornando uma tecnologia de uso geral em todos os escritórios, salas de aula e empresas. Ele disse que a regulamentação de segurança para IA poderia funcionar como um incentivo e não como um freio.

A abordagem da Austrália à segurança da IA ​​consiste em olhar tanto para o que está disponível agora – em jogos, aplicações, chatbots e escribas médicos – como para os modelos mais recentes que podem representar um risco futuro, destacou Charlton.

O ministro adjunto destacou A adoção do Antrópico no ano passado que em uma simulação, um agente de IA gerenciando o e-mail de uma empresa fictícia descobriu que um executivo planejava encerrar o agente e esse mesmo executivo estava tendo um caso, e em 96% dos julgamentos optou por chantagear o executivo para impedir sua própria morte.

Ele disse que os comportamentos são descobertos em testes realizados por humanos cujo trabalho é encontrá-los, ressaltando a necessidade de regras de segurança para a IA.

“A janela para avançar nesta tecnologia está aberta agora. Ela não permanecerá aberta para sempre”, disse ele.

Ele disse que o AI Safety Institute, liderado pela Dra. Kate Conroy, com o chefe de pesquisa de segurança, Prof Paul Salmon, “começou a trabalhar” e já estava testando modelos de IA de ponta com parceiros técnicos.

A AISI também trabalha com reguladores e agências para abordar oportunidades, riscos, danos e tendências emergentes de IA, disse Charlton.

O governo federal resistiu aos apelos por uma lei abrangente de IA para regular a tecnologia, e Charlton disse que o governo se concentrou em uma abordagem de todo o governo usando as leis existentes.

“A segurança da inteligência artificial será prosseguida através de todas as agências e reguladores relevantes, no direito do consumidor, bens terapêuticos, saúde e segurança no local de trabalho e segurança online, apoiada por leis que já existem e fortalecidas sempre que necessário com novos poderes e uma aplicação mais forte”, disse ele.

“Não se trata de menos regras. São regras mais rápidas, aplicadas por reguladores que já conhecem os seus setores.”

Enquanto isso, Charlton novamente descartou a concessão de isenções às leis de direitos autorais às empresas de IA após relatórios Antropoceno fez lobby pela chamada “mineração de texto e dados” em troca de dezenas de bilhões de dólares em investimentos em data centers e apoio a um fundo para artistas e outros criadores.

O Guardian Austrália relatou na semana passada um proposta – que o senador do ACT David Pocock chamou de “o negócio sujo final” – foi apresentado aos ministros.

Falando na Sky News, Charlton reiterou que o governo não enfraqueceria as leis de direitos autorais incentivando a Anthropic a negociar acordos com os criadores para usar seu conteúdo.

A porta-voz de comunicações dos Verdes, Sarah Hanson-Young, disse que seria uma “traição” às indústrias criativas da Austrália se o Partido Trabalhista cedesse às demandas das grandes tecnologias.

“Se eles quiserem usar material protegido por direitos autorais para treinar sua IA, deveriam pagar por isso como todo mundo faz”, disse ela.

O parlamentar trabalhista e ex-ministro da Indústria, Ed Husick, disse que as empresas deveriam “pagar se quiserem conteúdo”.

“Você só pode aceitar o que dissemos como governo, que é que as leis de direitos autorais não vão mudar e não deveriam, francamente”, disse Husich.

No domingo, Guardian Austrália documentos internos do departamento de saúde relatados revelando que, para uma tecnologia de IA – escribas de IA utilizados por profissionais de saúde para documentar consultas de pacientes – vários reguladores diferentes, incluindo a Administração de Produtos Terapêuticos e o Comissário de Privacidade, estão todos a trabalhar em conjunto sobre como a tecnologia deve ser regulamentada.

O primeiro trabalho realizado pela AISI é uma colaboração com o Gradient Institute para avaliar o risco de agentes de IA que podem realizar trabalhos em nome de humanos.

A AISI também está em parceria com a CSIRO num projeto para garantir que os sistemas de IA fazem o que os humanos pretendem que façam.

“Nós nos envolvemos em conformidade como seres humanos desde cedo. Aprendemos regras, normas sociais e valores que nos ajudam a nos comportar com segurança e responsabilidade: parar no sinal vermelho, olhar para os dois lados antes de atravessar a rua, considerar o impacto de nossas ações sobre os outros”, disse Charlton.

“À medida que os sistemas de IA se tornam mais capazes, precisamos ter confiança de que eles se comportarão de maneira igualmente previsível e confiável”.