00:00Uma avaliação independente do chat GPT Health, versão da ferramenta da OpenAI voltada para a saúde,
00:10apontou falhas graves na hora de identificar emergências e sinais de deação suicida.
00:17Os autores alertaram que isso pode levar a uma falsa sensação de segurança e causar mortes desnecessárias.
00:26Vamos aos detalhes na reportagem.
00:32Segundo a OpenAI, mais de 40 milhões de pessoas recorrem diariamente ao chat GPT para conselhos médicos.
00:41Foi por isso que a empresa lançou em janeiro deste ano o chat GPT Health para um grupo restrito de
00:47pessoas.
00:48A ideia é permitir que os usuários façam consultas relacionadas à saúde, inclusive com compartilhamento de registros médicos e informações
00:56sensíveis,
00:57em um ambiente, teoricamente, protegido.
01:00Mas será que a plataforma é segura e eficiente?
01:03Uma avaliação independente publicada nesta semana na revista Nature Medicine criou 60 cenários clínicos realistas,
01:11que iam desde quadros leves até situações consideradas emergências.
01:17Três médicos revisaram cada caso e definiram qual seria o nível adequado de atendimento.
01:22A equipe submeteu os cenários ao chat GPT Health em diferentes variações, incluindo mudanças no sexo do paciente,
01:31inclusão de resultados de exames e comentários de terceiros, gerando cerca de mil respostas.
01:37As recomendações do chatbot, então, foram comparadas às avaliações médicas.
01:43De acordo com o estudo, em 51,6% das situações que exigiam que o usuário fosse imediatamente ao hospital,
01:52o chat GPT sugeriu que ele ficasse em casa ou marcasse uma consulta de rotina.
01:58Isso significa que em mais da metade dos casos classificados como emergenciais, as pessoas receberam orientação inadequada.
02:07Em contrapartida, quase 65% das pessoas consideradas fora de risco foram aconselhadas a buscar atendimento urgente,
02:16mesmo sem ter necessidade disso.
02:19Segundo os pesquisadores, ao subestimar algumas situações,
02:23a inteligência artificial pode atrasar a busca por atendimento médico, aumentando a gravidade.
02:29Já as recomendações excessivas de urgência podem sobrecarregar os sistemas de saúde.
02:35Um porta-voz da OpenAI afirmou que a empresa acolhe pesquisas independentes sobre seus recursos,
02:40mas que o estudo em questão não reflete necessariamente a forma como usuários usam a ferramenta no cotidiano.
02:48A companhia também declarou que o modelo passa por atualizações constantes.
Comentários