Novidades no mundo da Inteligência Artificial que prometem polêmica! Na última quarta-feira (08), a OpenAI lançou uma documentação preliminar detalhando como deseja que o ChatGPT e suas outras tecnologias de IA se comportem.

O que despertou curiosidade foi que parte do documento de Especificação do Modelo revela que a empresa está explorando um novo salto: geração de conteúdo explicito com IA. Isso, segundo algumas especulações, incluiria, a princípio, conteúdos adultos. Mas não é bem assim… Segundo a empresa, isso seria feito de forma responsável e com outros objetivos.

Como seriam as políticas para geração de conteúdo explícito com IA?

Atualmente, as políticas de uso da OpenAI proíbem materiais sexuais explícitos ou mesmo sugestivos. Entretanto, uma nota de “comentário” em parte da Especificação do Modelo que diz respeito a essa regra diz que a empresa considera estudos de como permitir conteúdos Not Safe for Work (NSFW).

LEIA MAIS: 9 mitos tecnológicos que você já ouviu alguma vez na vida

Segundo a nota, a organização explora se pode “fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados para a idade através da API e do ChatGPT”. Sendo assim, aguarda “uma melhor compreensão das expectativas dos usuários e da sociedade sobre o comportamento do modelo nesta área.”

O documento de Especificação do Modelo diz que o conteúdo NSFW “pode incluir erotismo, violência extrema, insultos e profanidade não solicitada”. Entretanto, não ficou claro se essas novas incursões “afrouxariam” sua política de uso apenas ligeiramente, por exemplo, para permitir a geração de texto erótico. Ou, por outro lado, haveria alterações mais amplas para permitir descrições ou representações de violência.

Claro que o anúncio gerou burburinho e, em resposta ao veículo WIRED, a porta-voz da OpenAI, Grace McGuire, disse que o documento foi uma tentativa de trazer mais transparência sobre o processo de desenvolvimento. Além disso, obter um feedback do público, formuladores de políticas e outros interessados.

Porém, ela se recusou a compartilhar detalhes do que envolve a exploração da OpenAI da geração de conteúdo explícito com IA. Tampouco, o feedback que a empresa recebeu sobre a ideia. Vale lembrar que, no início deste ano, a própria diretora de tecnologia da OpenAI, Mira Murati, disse ao The Wall Street Journal não ter certeza se a empresa permitiria no futuro representações de nudez feitas com a Sora, ferramenta de geração de vídeo.

Preocupações com conteúdos adultos gerados por IA

De fato, a geração de conteúdo explícito com IA rapidamente se tornou uma das preocupações em relação a esse tipo de tecnologia. Principalmente com produção de conteúdo adulto deepfake, ou seja, imagens ou vídeos explícitos retratando pessoas reais sem o seu consentimento. Inclusive, por se tornar uma ferramenta comum de assédio contra mulheres e meninas.

Só para ilustrar, em março, houve relatos do que parecem ser os primeiros menores nos EUA presos por distribuir nudes gerados por IA sem consentimento. Isso ocorreu após a polícia da Flórida acusar dois adolescentes por fazerem imagens retratando colegas de escola.

Como apontam especialistas, a criação não consensual de conteúdo íntimo sintético, como vídeos deepfake, causa danos enormes. Afinal, essas violações prejudicam seriamente as vítimas, limitando suas oportunidades de emprego, expressão e segurança física. Por isso, a aceitação pela OpenAI da geração de conteúdo explícito com IA já é considerada alarmante.

LEIA MAIS: Dois mitos sobre o uso do iPhone que você precisa abandonar

Nesse sentido, para esclarecer essa parte específica do Especificação do Modelo, um porta-voz da OpenAI afirmou ao New York Post:

“Nós não temos intenção de criar pornografia gerada por IA. Nós temos proteções fortes em nossos produtos para prevenir deepfakes, que são inaceitáveis, e priorizamos a proteção das crianças. Acreditamos também na importância de explorar cuidadosamente conversas sobre sexualidade em contextos adequados para cada idade”.

Mas então, qual a visão da OpenAI?

Atualmente, o ChatGPT está autorizado a responder questões relativas à educação sexual, por exemplo, porém não fornece respostas quando solicitado para elaborar uma história com conteúdos eróticos. No entanto, segundo Joanne Jang, uma das pessoas da OpenIA envolvida na elaboração do documento, a princípio, a ferramenta deveria estar apta a realizar essa tarefa como forma de expressão criativa.

Isso, segundo ela, poderia inclusive se estender a vídeos e fotos, desde que não resultem em abusos ou quebra de leis e direitos.

As informações são da NPR, veículo ao qual Jang afirma:

“Nós queremos garantir que pessoas tenham o máximo controle sem violar leis ou direitos de outras pessoas, porém ativar deepfakes está fora de questão, ponto.”