DESTAQUES
A Red Teaming Network compreende um grupo de especialistas que foram contratados para ajudar a avaliar, detectar e mitigar os riscos detectados nos modelos de IA da OpenAI.
Tornou-se parte integrante e também um passo fundamental no desenvolvimento da IA, à medida que a IA se torna uma ferramenta mais popular.
A OpenAI abraçou o fato de já ter se unido a especialistas externos para testar e aprovar seus modelos.
A OpenAI tem estado bastante ativa e tem planos ambiciosos para o futuro. Mantendo esse espírito em mente, eles lançaram agora uma OpenAI Red Teaming Network. Ajudará a tornar a IA uma ferramenta mais forte e eficiente. O fabricante do ChatGPT, Open AI, nomeou recentemente a OpenAI Red Teaming Network. Esta rede compreende um grupo de especialistas que foram contratados para ajudar a avaliar, detectar e mitigar os riscos detectados nos modelos de IA da OpenAI.
No mundo da IA, red teaming não é um conceito novo. Tornou-se parte integrante e também um passo fundamental no desenvolvimento da IA, à medida que a IA se torna uma ferramenta mais popular. Com a ajuda do red teaming, os fabricantes podem descobrir os preconceitos em seus modelos de IA. Por exemplo, descobriu-se que DALL-E 2, um produto OpenAI, amplifica estereótipos em torno de raça e sexo. A equipe vermelha pode até ajudar a descobrir os prompts que farão o ChatGPT e o GPT-4 ignorarem seus filtros de segurança.
Leia também: ChatGPT Enterprise: OpenAI revela a ‘versão mais poderosa do ChatGPT’ até agora
Falando sobre isso, a OpenAI abraçou o fato de já ter se unido a especialistas externos para testar e aprovar seus modelos. No passado, a empresa hospedou seu programa de recompensas por bugs e programa de acesso a pesquisadores.
Com a OpenAI Red Teaming Network, a empresa pretende reforçar os seus esforços e sublinha que pretende avançar no sentido de “aprofundar” e “ampliar” o trabalho que a OpenAI faz com cientistas, instituições de investigação e sociedade civil organizações.
Leia também: OpenAI, Meta e Tesla querem desesperadamente esta GPU Nvidia, mas por quê?
Num post de blog, a OpenAI afirma: “Vemos este trabalho como um complemento às práticas de governança especificadas externamente, como auditorias de terceiros”. Diz ainda: “Os membros da rede serão chamados com base em sua experiência para ajudar a equipe vermelha em vários estágios do ciclo de vida de desenvolvimento do modelo e do produto”.
Siga-nos
Mustafá Khan
Mustafa é um geek de tecnologia que atualmente trabalha com Digit como estagiário. Ele testa os novos gadgets que vêm a bordo e escreve para a redação. Ele encontrou seu caminho com as palavras e leva sua pesquisa muito a sério. consulte Mais informação
source – www.digit.in
