A OpenAI acredita que, atualmente, não há solução para direcionar ou controlar uma IA potencialmente superinteligente e impedir que ela se torne desonesta. É uma das razões pelas quais está montando uma equipe totalmente nova.
Em que a nova equipe trabalhará?
Segundo a empresa, a equipe será composta pelos principais pesquisadores e engenheiros de aprendizado de máquina para trabalhar nesse problema. “Estamos dedicando 20% da computação que garantimos até o momento nos próximos quatro anos para resolver o problema do alinhamento da superinteligência”, disse a OpenAI. Acrescentou ainda: “Nossa principal aposta de pesquisa básica é nossa nova equipe de superalinhamento, mas acertar isso é fundamental para alcançar nossa missão e esperamos que muitas equipes contribuam, desde o desenvolvimento de novos métodos até a ampliação deles até a implantação”.
A OpenAI acredita que este será um problema de aprendizado de máquina. E é por isso que a OpenAI também está procurando novos pesquisadores e engenheiros de destaque para se juntar a esse esforço. “O alinhamento da superinteligência é fundamentalmente um problema de aprendizado de máquina e acreditamos que grandes especialistas em aprendizado de máquina, mesmo que ainda não estejam trabalhando no alinhamento, serão essenciais para resolvê-lo”, observou a empresa.
fim do artigo