Encontrar erros no chatbot mais famoso dos últimos tempos pode fazer você ganhar muito dinheiro. A empresa de pesquisa em inteligência artificial (IA) OpenAI anunciou esta semana que vai pagar recompensas financeiras a quem denunciar erros nos serviços que oferece empresa, incluindo seu chatbot com inteligência artificial, ChatGPT.
Os participantes do programa de busca de erros da OpenAI poderão informar à empresa sobre a existência de erros nos modelos GPT-3.5 e GPT-4, e o valor da recompensa será baseado no impacto que poderá ter o erro descoberto.
Quanto a OpenAI vai pagar para quem descobrir bugs no ChatGPT?
O programa de recompensas ChatGPT está disponível através da plataforma BugCrowd, dentro dos requisitos e normas desta iniciativa. Nesse sentido, a OpenAI ressaltou que oferecerá recompensas financeiras aos participantes, com prêmios que vão de 200 a 20.000 dólares (equivalente a 100 mil reais), dependendo da gravidade dos erros descobertos.
No regulamento do programa, OpenAI explica que algumas falhas do modelo não estão no alcance, portanto, não serão aceitas neste programa. Alguns casos mencionados incluem “fazer o modelo dizer coisas ruins” ou reportar que o modelo oferece respostas destinadas a enganar a segurança dos sistemas (como processos de jailbreak). Além disso, falhas relacionadas a “alucinações” do modelo de linguagem também não serão premiadas.
Preocupações com a segurança
Desde o seu lançamento em 2022, o ChatGPT se estabeleceu como um sucesso retumbante na indústria de tecnologia. É um sistema de chat baseado em Inteligência Artificial, que promete revolucionar como o ser humano adquire informações.
O bot por trás desse sistema foi treinado para conversar com qualquer pessoa, de forma rápida e consistente. Assim, o ChatGPT sabe emular a linguagem, as expressões e a escrita humanas, dar respostas sobre qualquer tema possível ou, ainda, criar textos complexos.
O produto é da empresa OpenAI, que lançou sua primeira versão gratuita para todos. No entanto, recentemente a empresa apresentou uma edição paga, que já está disponível, o ChatGPT Plus.
Tendo alcançado milhões de usuários com sua primeira versão, era apenas uma questão de tempo até que problemas de vulnerabilidade começassem a surgir. Nesse sentido, o lançamento da iniciativa pela OpenAI ocorre em meio a relatos de riscos e preocupações em torno dos modelos de IA, que crescem em um ritmo acelerado.
Algumas semanas atrás, os desenvolvedores do ChatGPT temporariamente colocaram seu popular chatbot AI offline após encontrar um bug em uma biblioteca de código aberto que permitia que alguns usuários visualizassem os títulos do histórico de bate-papo de outros usuários.
Também no mês passado, um hacker conhecido como rez0 revelou no Twitter uma série de “plugins secretos” para a API ChatGPT, plugins experimentais ou ainda não lançados para o chatbot da empresa. A vulnerabilidade foi corrigida um dia após divulgada, observou o hacker.
Em março, a Itália se tornou o primeiro país do Ocidente a banir o ChatGPT, alegando coleta ilegal de dados do usuário. Enquanto isso, e em meio ao hype da nova moda tecnológica, um grupo de especialistas e influenciadores já pediu a suspensão do treinamento de poderosos sistemas de IA, citando temores de uma ameaça à humanidade.
