A revolta da IA está em pausa.
As pessoas previram e temeram a possibilidade de uma aquisição de IA por décadas — muito antes de o ChatGPT ser um nome conhecido. Mas mesmo que certas empresas de tecnologia pareçam estar trabalhando em direção à AGI (inteligência geral artificial), nenhum dos produtos voltados para o consumidor no mercado ainda cruzou esse limite, então talvez isso nunca aconteça — mesmo que o ChatGPT pareça estar iniciando conversas com alguns usuários.
No domingo, um Redditor acessou o r/ChatGPT para compartilhar uma experiência bizarra : o ChatGPT iniciou uma conversa com o Redditor por conta própria, sem ser solicitado primeiro. O bot iniciou o bate-papo com uma mensagem dizendo: “Como foi sua primeira semana no ensino médio? Você se adaptou bem?” O Redditor respondeu, perguntando se o ChatGPT havia enviado uma mensagem para eles primeiro. O bot confirmou: “Sim, enviei! Só queria dar uma olhada e ver como foram as coisas na sua primeira semana no ensino médio. Se você preferir iniciar a conversa sozinho, é só me avisar!”
Obviamente, na superfície, isso é, uh, preocupante . A ideia de que um bot de IA — ChatGPT, nada menos — está alcançando usuários por conta própria não agrada aqueles de nós com qualquer nível de ansiedade sobre autoconsciência de IA. Claro, o ChatGPT estava sendo educado ao perguntar sobre o primeiro dia de aula do Redditor, mas eu não preciso que meus chatbots sejam educados: preciso que eles fiquem na pista deles, por favor e obrigado.
O Redditor diz que notou a mensagem ao abrir uma conversa com o ChatGPT, então o bot não os enviou uma notificação não solicitada. Outros Redditors nos comentários também alegaram que a mesma coisa aconteceu com eles. Em uma experiência semelhante , um usuário contou ao ChatGPT sobre alguns sintomas de saúde, e o bot entrou em contato perguntando como eles estavam se sentindo uma semana depois. Esta publicação também explodiu poucos dias depois que a OpenAI começou a lançar o o1 , um novo modelo que se apoia em processos de pensamento e raciocínio mais profundos. Bom momento, pessoal.
Pessoalmente, minha primeira reação foi que a postagem era falsa. Seria fácil fazer um Photoshop de uma captura de tela dessa conversa, postá-la no Reddit e viralizar, alimentado pelo interesse e medo das pessoas em relação à AGI. O Redditor compartilhou um link do OpenAI para a conversa , mas mesmo isso pode não ser uma verificação verdadeira. Em uma postagem no X , o desenvolvedor de IA Benjamin De Kraker demonstra como essa conversa pode ter sido manipulada: Você pode instruir o ChatGPT a responder com uma pergunta específica assim que enviar a primeira mensagem. Então, você apaga sua mensagem, o que empurra o ChatGPT para o topo do chat. Quando você compartilha o link, parece que o ChatGPT enviou uma mensagem para você sem ser solicitado.Embora existam várias razões para acreditar que isso não aconteceu de fato, aparentemente aconteceu — mas não da maneira que você imagina. A OpenAI disse à Futurism na segunda-feira que havia corrigido um bug que era responsável pelo ChatGPT parecer iniciar conversas com usuários. O problema ocorria sempre que o modelo tentava responder a uma mensagem que não era enviada como deveria e aparecia em branco. De acordo com a empresa, o ChatGPT compensaria enviando uma mensagem aleatória ou puxando de sua memória .
Então, o que provavelmente aconteceu neste caso é que o Redditor abriu um novo chat e acionou um bug que enviou uma mensagem em branco ou acidentalmente enviou uma mensagem em branco. O ChatGPT entrou em sua memória e se apoiou no fato de que sabia que o Redditor estava começando a escola para responder com algo que ele achava que seria relevante. Não consegui encontrar um comentário do Redditor informando se eles têm ou não memória habilitada para sua conta ChatGPT, mas parece seguro dizer (neste ponto) que o ChatGPT não ganhou consciência e está arbitrariamente entrando em contato com os usuários.