publicada em: set. 12, 2024

Mais de 120 funcionários e ex-funcionários das grandes empresas de Inteligência Artificial, como OpenAI, Anthropic, Google e Meta, assinaram uma carta a favor da regulação de IA que está em desenvolvimento atualmente na Califórnia, nos Estados Unidos. O coletivo argumenta que os modelos mais poderosos podem em breve representar “riscos severos”, com a possibilidade de expansão de armas biológicas e ataques cibernéticos.

“É viável e apropriado que empresas de IA de ponta testem se os modelos de IA mais poderosos podem causar danos severos, e implementem salvaguardas razoáveis ​​contra tais riscos”, traz a carta.

A lei 1047 cria regras para que as empresas sigam antes do lançamento dos produtos de IA e está atualmente esperando a aprovação do governador do estado, após ser aprovada na Câmara e no Senado locais. O projeto está causando controvérsias no setor da região, com empresas e executivos contra e a favor da aprovação do texto.

Com informações da Axios.

publicado em: set. 12, 2024 

Um estudo realizado por pesquisadores da Universidade da California Merced, concluiu que os humanos estão depositando confiança excessiva na Inteligência Artificial para orientar suas escolhas em decisões de vida ou morte. 

O experimento buscou simular situações em que o voluntário deveria escolher quais alvos, classificados entre inimigos e aliados, teriam que ser assassinados por meio de um ataque de drone. A IA, então, dava uma opinião sobre a validade dos alvos. Mesmo sendo informados sobre a falibilidade dos sistemas autônomos, dois terços dos sujeitos permitiram que suas decisões fossem influenciadas pela IA.

“Como sociedade, com a IA acelerando tão rapidamente, precisamos nos preocupar com o potencial de excesso de confiança”, disse o pesquisador principal, Professor Colin Holbrook, membro do  Departamento de Ciências Cognitivas e da Informação da UC Merced.

Com informações do The Engineer.

publicado em: set. 6, 2024

Duas das maiores empresas de Inteligência Artificial, OpenAI e Anthropic, concordaram em disponibilizar seus sistemas para que o Instituto de Segurança de IA dos Estados Unidos teste-os antes do lançamento ao público. A iniciativa, que é resultado da ordem executiva emitida pelo presidente Joe Biden ano passado, busca identificar e avaliar possíveis riscos à segurança e aos direitos dos cidadãos norte-americanos.

O instituto, sediado no Departamento de Comércio do Instituto Nacional de Padrões e Tecnologia (NIST), disse em um comunicado à imprensa que terá “acesso aos principais novos modelos de cada empresa antes e depois de seu lançamento público”. “Estamos felizes por termos chegado a um acordo com o US AI Safety Institute para testes de pré-lançamento de nossos futuros modelos”, escreveu o CEO da OpenAI, Sam Altman, em um post no X.

Com informações da CNBC.

publicado em: set. 6, 2024

Apesar de ainda não ter uma regulação de Inteligência Artificial vigente, a Austrália anunciou nesta quarta-feira (4) um conjunto de 10 diretrizes para o desenvolvimento seguro e ético da tecnologia no país. Os princípios são voluntários e tratam de gestão de riscos, transparência, supervisão humana e justiça para garantir que os sistemas de IA operem de forma segura e equitativa. Os padrões utilizam como referência modelos internacionais, como o desenvolvimento pela União Europeia, e devem orientar políticas governamentais futuras.

Saiba mais.