ChatGPT para gerar conteúdo pornográfico?
Se você acompanha as notícias sobre IA, já deve ter ouvido falar sobre a bolha especulativa que anda preocupando muitos. Segundo vários analistas, as empresas de tecnologia estão sobrevalorizadas muito acima da conta. E o nome que sempre aparece nessas conversas é o da OpenAI.
Recentemente avaliada em 500 bilhões de dólares, a empresa não gera lucros. O altíssimo custo de seus modelos de IA resulta em prejuízos de bilhões de dólares todos os anos. Por isso, Sam Altman, o CEO da OpenAI, sempre precisa inovar na busca por uma graninha.
Recentemente, ele garantiu bons retornos financeiros no mercado especulativo ao anunciar acordos com a Oracle (US$ 300 bilhões), AMD (USD$ 270 bilhões) e Nvidia (USD$ 500 bilhões) para a criação de infraestrutura (datacenters) para seus modelos de IA. Porém, a OpenAI não dispõe desse dinheiro e os requerimentos energéticos dos projetos anunciados não podem ser satisfeitos pela atual malha americana. No entanto, os anúncios geraram bons frutos na bolsa de valores (aqui, aqui e aqui).
Mas a notícia da vez deixou muitos de cabelo em pé. Ao invés de anunciar mais acordos mirabolantes, Altman agiu de uma maneira mais apelativa. Claramente em busca de uns trocados, o ChatGPT irá gerar conteúdo pornográfico para usuários adultos em breve.
Uma mudança nas prioridades
Mas é claro, no anúncio da mudança, dinheiro e lucro não foram mencionados. Oficialmente, a lógica por trás dessa mudança é dupla. Primeiro, a empresa argumenta que irá tratar os usuários adultos como adultos, permitindo uma gama mais ampla de interações. Segundo, a OpenAI afirma querer facilitar uma experiência de usuário mais envolvente que possa rivalizar melhor com outras plataformas.
A liberação de conteúdo pornográfico no ChatGPT, anunciada em um post no X para breve, está entre as proteções relaxadas mais significativas desde a ascensão do ChatGPT. Anteriormente a empresa priorizava a cautela em relação às preocupações com a saúde mental.
Um passado preocupante
A prometida liberação de conteúdo pornográfico vem na esteira de relatos alarmantes sobre o impacto do ChatGPT em indivíduos vulneráveis. Os incidentes incluíram casos em que usuários desenvolveram dependências prejudiciais ao chatbot e pensamentos mágicos. Os casos mais trágicos envolveram suicídios.
Mais salvaguardas anunciadas
Em declarações públicas, a OpenAI alega que fez mudanças para detectar quando as coisas estão dando errado e montou um conselho de consultores formados por profissionais de saúde mental. O novo GPT-5 foi lançado com protocolos de segurança aprimorados e um roteador projetado para identificar comportamentos de risco dos usuários. A empresa também introduziu controles parentais, incluindo sistemas de previsão de idade e opções de gerenciamento de contas para os pais. A OpenAI também afirmou que sua geração de modelo mais recente diminui o viés de concordância e ajuda a abordar prompts com tópicos sensíveis para respostas.
A busca por engajamento
No entanto, a busca pelo crescimento e pelo envolvimento dos usuários parece estar claramente impulsionando a futura mudança estratégica de permitir a geração de conteúdo pornográfico no ChatGPT. A OpenAI enfrenta pressões financeiras substanciais para recuperar seus enormes investimentos em infraestrutura e cultivar uma base de usuários grande, ativa e pagante. O mais recente anúncio da empresa sobre conteúdo pornográfico levanta questões sobre a ética de priorizar o engajamento sobre a segurança do usuário.
