OpenAI abre o jogo: conheça as táticas para driblar deep fakes e alucinações de IA
Ei, você, amante da tecnologia! Sabe aqueles riscos enormes que rondam os aplicativos de IA generativa? Estamos falando das famosas alucinações de informações falsas e das temidas deep fakes, aquelas imagens e vídeos falsos que parecem reais. Pois é, a OpenAI está de olho nisso e acaba de revelar seu plano de ação.
Model Spec: A cartilha da OpenAI para um uso seguro da IA
A OpenAI decidiu abrir o jogo e publicou o seu Model Spec. Isso mesmo, as especificações técnicas de seus modelos de IA, incluindo o famoso ChatGPT. E pela primeira vez, eles detalharam as regras que norteiam o comportamento desses modelos. Então, se você já se perguntou por que o ChatGPT às vezes se recusa a responder ou produzir conteúdos solicitados, a resposta está nessas diretrizes. E o mesmo vale para o DALLE, o programa de IA que cria imagens, e o Sora, que cria vídeos.
Guardrails: As barreiras de proteção da OpenAI
Com a publicação do Model Spec, a OpenAI quer que a comunidade de desenvolvedores ajude a aprimorar seus objetivos e guardrails, as famosas barreiras de proteção contra resultados problemáticos. Segundo a startup, é crucial que as pessoas entendam e discutam as escolhas envolvidas na formatação do comportamento do modelo.
Detector de deep fakes: A nova arma da OpenAI
Além disso, a OpenAI anunciou uma ferramenta que promete ser uma verdadeira pedra no sapato das deep fakes: um detector capaz de identificar se a imagem é real ou não. De acordo com a empresa, o software acerta em 98,8 porcento dos casos se a imagem foi criada pelo DALLE 3, a versão mais recente. Mas tem um porém: ele não funciona para rastrear os geradores de imagem da concorrência, como os populares Midjourney e Stability.
Para completar, a empresa está desenvolvendo marcas dágua para que as imagens criadas por IA sejam facilmente reconhecíveis. Parece que a OpenAI está mesmo determinada a combater as ameaças da IA generativa, hein?
Algo na matéria não está correto? Avise-nos!!
Gostou do conteúdo? Siga-nos nas redes sociais para ter acesso a conteúdo exclusivo, reviews e dicas incríveis sobre o mundo da tecnologia.