Yoshua Bengio, um cientista pioneiro na área de aprendizado de máquina e apelidado de “padrinho da IA”, lançou nesta terça (3.jun) a LawZero, startup sem fins lucrativos para criar sistemas de inteligência artificial que se pareçam menos com humanos e sejam mais seguros.
A LawZero tem 15 funcionários e recebeu R$169 milhões (USD 30 milhões) em uma primeira rodada de financiamento.
FISCAL DE IA. A organização planeja desenvolver um sistema chamado Scientist AI, que funcionará como um fiscal para os agentes de inteligência artificial que operam sem supervisão humana. Ou seja, um robô que tenha como tarefa supervisionar outros robôs.
O objetivo, segundo Bengio, é identificar e prever possíveis comportamentos inadequados — como uma IA que tente impedir seu próprio desligamento, por exemplo.
SEM EGO. “É teoricamente possível imaginar máquinas que não tenham 'Eu', nenhum objetivo para si mesmas, que são apenas máquinas de conhecimento puro — como um cientista que conhece muitas coisas”, disse Bengio em entrevista ao Guardian.
GRANA. Os apoiadores iniciais da LawZero incluem o fundador do Skype, Jaan Tallinn, e a Schmidt Sciences, instituição de pesquisa fundada pelo ex-executivo-chefe do Google, Eric Schmidt.
Ao Axios, Bengio disse que o financiamento inicial é suficiente para 1 ano e meio, mas que tem certeza de que potenciais apoiadores verão os “riscos plausíveis” no futuro e terão vontade de apoiar a organização — incluindo governos.
QUEM É O FUNDADOR. Bengio é professor da Universidade de Montreal, no Canadá. Ele ganhou o apelido de “padrinho da IA” após ganhar o Prêmio Turing em 2018, importante na área da IA.
Bengio também liderou o International AI Safety report, relatório que alertou sobre a possibilidade de agentes de IA se tornarem “capazes de concluir sequências mais longas de tarefas sem supervisão humana” e pararem de obedecer ordens.
O documento histórico também destaca chances de a IA ser manuseada para conduzir ataques cibernéticos em massa ou ataques biológicos, além de campanhas para manipulação da opinião pública por meio das redes sociais.
Via Axios e The Guardian (ambos em inglês)
