OpenAI avalia lançamento de detector de imagens geradas por IA

Picture of Maurício "o Estagiario"

Maurício "o Estagiario"

Textos otimizado com nossa IA

Published on outubro 20, 2023, 10:44 pm

A startup de inteligência artificial (IA), OpenAI, está em discussões sobre quando lançar uma ferramenta capaz de determinar se uma imagem foi criada a partir do seu próprio modelo de arte generativa, o DALL-E 3. Embora esse projeto esteja em pauta, parece que ainda há um longo caminho a percorrer para que ele se torne realidade.

Em uma entrevista ao TechCrunch, Sandhini Agarwal, pesquisadora da OpenAI especializada em segurança e política, destacou que, embora a ferramenta apresente uma precisão “muito boa”, ainda não atende aos padrões de qualidade da empresa.

Agarwal ressalta que existe a preocupação em lançar uma ferramenta que não seja confiável, pois as decisões tomadas por ela podem afetar significativamente as fotos. Por exemplo, ela poderia determinar se uma obra foi pintada por um artista ou se é inautêntica e enganosa.

A diretora de tecnologia da OpenAI, Mira Murati, afirmou ao The Wall Street Journal que o classificador atual é “99%” confiável para identificar se uma foto não modificada foi gerada usando o DALL-E 3. No entanto, a meta da empresa é alcançar 100% de confiabilidade.

A ferramenta apresenta mais de 95% de precisão mesmo quando a imagem é submetida a modificações comuns, como corte, redimensionamento ou compactação JPEG. Além disso, também consegue identificar texto ou recortes de imagens reais sobrepostos em pequenas partes da imagem gerada.

Se a OpenAI conseguir criar uma ferramenta com 100% de eficácia, poderá estabelecer novos formatos para diferenciar imagens reais de imagens geradas artificialmente. No entanto, o desenvolvimento dessa ferramenta enfrenta um desafio semelhante ao da detecção de texto gerado por IA, que acabou sendo usado por modelos de geração de texto lançados por terceiros.

Agarwal explica que a razão pela qual o classificador atual é específico para o DALL-E 3 é porque esse é um problema tecnicamente mais abordável. A criação de um detector geral ainda não está nos planos, mas Agarwal não descarta essa possibilidade no futuro.

É interessante observar como a inteligência artificial continua avançando e trazendo consigo uma série de questões éticas e práticas. O uso dessas tecnologias pode ser muito benéfico, mas também requer cuidados para evitar consequências indesejadas.

O artigo original foi publicado no Olhar Digital e você pode encontrar mais informações sobre esse assunto no link abaixo:
[OpenAI avalia lançamento de detector de imagens geradas por inteligência artificial; entenda](https://olhardigital.com.br/2023/10/20/pro/openai-avalia-lancamento-de-detector-de-imagens-geradas-por-inteligencia-artificial-entenda/)

Compartilhe

Facebook
Twitter
LinkedIn
WhatsApp
Email
Print

Leia mais sobre este assunto:

Conteudize