A OpenAI revelou em março uma nova versão do seu gerador de imagens, integrado no modelo ChatGPT-4o, que promete avanços significativos na geração de texto dentro de imagens. A melhoria já está a ser amplamente explorada pelos utilizadores, mas levanta preocupações sobre o potencial de uso da tecnologia para fraudes.
Nas redes sociais, alguns utilizadores estão a testar os limites da ferramenta. Um exemplo recente foi partilhado por Deedy Das, investidor e utilizador do X (antigo Twitter), que publicou uma imagem de um recibo falso de um restaurante real em São Francisco, alegadamente gerado com o ChatGPT-4o. O caso reacendeu o debate sobre o uso da inteligência artificial para criar deepfakes e ferramentas de fraude e levou a que outros utilizadores testassem a ferramenta para o mesmo fim.
Houve, inclusive, quem conseguisse replicar resultados semelhantes, mas incluindo manchas de comida ou bebida para parecer ainda mais autêntico.
Ainda que o modelo possa cometer erros matemáticos ou formatação estranha, esses podem ser pequenos o suficiente para que se possam corrigir através de edição de imagem.
O potencial para a utilização para fins criminosos é real, particularmente em contextos como reembolsos de despesas, devoluções ou manutenção de registos financeiros. Ainda assim, a OpenAI garante que todas as imagens criadas com o modelo incluem metadados que as sinalizam como geradas por IA. A empresa também declarou que agirá contra aqueles que usarem a ferramenta para violar as suas políticas.
You can use 4o to generate fake receipts.
There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) March 29, 2025
