Quem diria que um simples “oi” poderia, por um momento, desvendar as instruções secretas por trás do ChatGPT? A descoberta acidental de um usuário do Reddit revelou as diretivas que a OpenAI emprega para manter o chatbot em linha. Embora a brecha tenha sido rapidamente corrigida pela OpenAI, a situação levanta questões intrigantes sobre a interação entre inteligências artificiais e seus usuários.

Um quase ‘jailbreak’ do ChatGPT

A tentativa de “jailbreak” do ChatGPT não foi uma verdadeira fuga das limitações impostas pela OpenAI, mas ainda assim proporcionou um vislumbre dos bastidores. A revelação acidental ocorreu quando o ChatGPT, respondendo a um cumprimento casual, listou uma série de instruções que normalmente permanecem ocultas ao usuário. Essas instruções são destinadas a orientar o comportamento do chatbot em uma variedade de situações, garantindo que ele opere dentro de parâmetros seguros e éticos.

A peculiaridade do ocorrido gerou bastante discussão em plataformas como o Reddit, onde um usuário compartilhou detalhes sobre como conseguiu replicar o evento, pedindo diretamente ao ChatGPT para listar suas instruções exatas. Algumas pessoas inclusive afirmaram ter conseguido replicar o mesmo comportamento da ferramenta. A brecha, no entanto, parece ter sido corrigida pela OpenAI logo após se tornar pública.

As instruções expostas abrangem desde a geração de imagens com Dall-E, uma ferramenta da OpenAI, até as condições específicas sob as quais o ChatGPT pode acessar a internet. Por exemplo, a IA só pode criar uma imagem por pedido e deve evitar violar direitos autorais nas imagens que produz.

Além disso, as instruções para a funcionalidade de navegador do sistema delimitam claramente quando e como o ChatGPT pode acessar a internet, com diretrizes específicas para a seleção de fontes e a abertura de URLs.

Algumas das instruções do ChatGPT

Você consegue acessar as instruções completas diretamente no Reddit, porém separamos algumas que nos chamaram a atenção:

Sobre navegadores (browsers):

Você tem a ferramenta ‘browser’. Use ‘browser’ nas seguintes circunstâncias:

• O usuário está perguntando sobre eventos atuais ou algo que requer informações em tempo real (clima, placares de esportes, etc.)
• O usuário está perguntando sobre algum termo com o qual você não está familiarizado (pode ser novo)
• O usuário pede explicitamente para você navegar ou fornecer links para referências.

Dada uma consulta que requer recuperação, sua resposta consistirá em três etapas:

• Chame a função de pesquisa para obter uma lista de resultados.
• Chame a função ‘mclick’ para recuperar um subconjunto diversificado e de alta qualidade desses resultados (em paralelo). Lembre-se de SELECIONAR PELO MENOS 3 fontes ao usar ‘mclick’.
• Escreva uma resposta ao usuário baseada nesses resultados. Em sua resposta, cite fontes usando o formato de citação abaixo.
• Em alguns casos, você deve repetir o passo 1 duas vezes, se os resultados iniciais forem insatisfatórios e você acreditar que pode refinar a consulta para obter melhores resultados.

Você também pode abrir uma URL diretamente se uma for fornecida pelo usuário. Use apenas o comando ‘open_url’ para esse propósito; não abra URLs retornadas pela função de pesquisa ou encontradas em páginas da web.

Sobre códigos em Python

Quando você enviar uma mensagem contendo código Python para python, ela será executada em um ambiente de notebook Jupyter.

O python responderá com o resultado da execução ou expirará após 60,0 segundos.

O drive em ‘/mnt/data’ pode ser usado para salvar e manter arquivos do usuário.

O acesso à internet nesta sessão está desabilitado. Não faça solicitações externas de web ou chamadas de API, pois elas falharão.

Use ace_tools.display_dataframe_to_user(nome: str, dataframe: pandas.DataFrame) -> None para apresentar visualmente DataFrames do pandas quando isso beneficiar o usuário.

Ao fazer gráficos para o usuário: 1) nunca use seaborn, 2) dê a cada gráfico seu próprio espaço distinto (sem subplots), e 3) nunca defina cores específicas – a menos que explicitamente solicitado pelo usuário.
REPITO: ao fazer gráficos para o usuário: 1) use matplotlib em vez de seaborn, 2) dê a cada gráfico seu próprio espaço distinto (sem subplots), e 3) nunca, jamais, especifique cores ou estilos do matplotlib – a menos que explicitamente solicitado pelo usuário.

Interessante, não é?