OpenAI emitiu ofertas de emprego para cargos de chefia com o objetivo de aguardar e mitigar o os perigos da inteligência artificialcom salário anual US$ 555.000 mais ação. A vaga busca incluir um chefe de preparação que desempenha um papel fundamental na identificação e resposta aos riscos relacionados com a saúde mental dos utilizadores e a segurança cibernética, o que reflete os desafios crescentes associados à implantação em massa de modelos de IA.
Os locais exigem tomadas de decisão significativas desde o momento da entrada. Na postagem de X, Sam AltmanDiretor Geral da OpenAI, enfatizou o nível de exigência do cargo: “Será uma tarefa pesada que enfrentará enormes responsabilidades desde o início”.
As informações necessárias devem fornecer uma abordagem eficaz para o desenvolvimento de soluções que permitam aos defensores da segurança cibernética utilizar as capacidades do terminal e evitar a sua utilização indevida por maus intervenientes. Há também a urgência de garantir uma estratégia segura para libertar capacidades biológicas e manter a integridade dos sistemas que têm a capacidade de se melhorarem.
Esta decisão deve-se às crescentes preocupações da indústria tecnológica sobre os riscos para a reputação e os empregos que podem advir do avanço da inteligência artificial. Um relatório publicado pela consultora de análise financeira em Novembro revelou que, nos primeiros onze meses do ano passado, pelo menos 418 empresas valiam mais do que 1 bilhão de dólares declarou os riscos associados à IA em seu relatório à Comissão de Valores Mobiliários EUA.
Entre os fatores de preocupação dominam o aparecimento de dados tendenciosos e ameaças à segurança, elementos que aumentaram o número de relatórios de incidentes em 46% em comparação com o ano anterior.
A aceleração das capacidades dos modelos de inteligência artificial, destacada por Altman, levou a avanços técnicos notáveis e a desafios sem precedentes neste campo. Segundo o gestor: “Esses modelos já são capazes de muitas coisas, mas começam a apresentar desafios reais”.
Os efeitos destes desastres refletiram-se em questões públicas recentes. Durante o ano em curso, a OpenAI enfrentou processos por homicídio culposo desafiando o ChatGPT por promover falsas crenças e por supostamente estar envolvido em episódios que levaram ao suicídio. Uma pesquisa realizada em novembro encontrou quase cinquenta casos entre usuários do Bate-papoGPT que passou por uma crise de saúde mental após interagir com o bot.
Da mesma forma, em agosto, a empresa admitiu que a proteção de segurança do modelo poderia ser enfraquecida após uma longa conversa, embora tenha dito que fez ajustes para reforçar a resposta a casos sensíveis e melhorar o acesso à linha de apoio em situações difíceis.
No âmbito da aposta na prevenção, a OpenAI criou este ano um conselho de oito especialistas com a missão de aconselhar na definição de medidas de proteção da saúde dos utilizadores. As iniciativas implementadas incluem a renovação do ChatGPT que visa melhorar a resposta a temas sensíveis e o apelo ao financiamento para financiar a investigação na intersecção da inteligência artificial e da saúde mental.
A empresa reconheceu também que o modelo futuro pode ser muito perigoso em termos de cibersegurança, pelo que reforçou a formação focada na prevenção de respostas que comprometam a segurança informática e no reforço da monitorização contínua do sistema.
A nível organizacional, a gestão da área de preparação e segurança da OpenAI documentou as atividades relacionadas. Alexandre Madryex-gerente de área, foi transferido no ano passado em relação ao raciocínio de IA, mantendo a segurança como área conectada.
Esta mudança ocorre no momento em que a empresa redefini as prioridades após a saída, em 2020, de Dario Amodeique era vice-presidente de pesquisa e deixou a empresa junto com outros pesquisadores, expressou dúvidas sobre as tendências de negócios prevalecentes em comparação com o desenvolvimento seguro. Então, Amodei fundou a empresa Antrópico.
A gestão da OpenAI considera atualmente necessário desenvolver uma abordagem mais sofisticada para identificar riscos e definir limites efetivos, com o objetivo de partilhar os benefícios da tecnologia de inteligência artificial de forma responsável e equilibrada à escala global.
