As malditas plataformas espanholas alertam que ferramentas como o ChatGPT podem fazer um diagnóstico falso e que, quando os médicos circulam em sites e redes sociais, elas não provarão de pessoas que pediram diagnóstico desses modelos de IA.

Acusações como “Pedi a Chatgpt para ler minhas mãos e encontrar câncer de pele” ou “Diagnósticos de chatgpt em mulheres com câncer um ano antes do médico” circularam em redes sociais, indicando que as ferramentas de inteligência artificial (IA) são capazes de fazer diagnóstico médico.

Enquanto isso, Elon Musk também garantiu que seu "chatbot" (assistentes virtuais que usam inteligência e programação artificiais para se comunicar com os usuários através do texto podem fazer o diagnóstico "melhor do que os médicos dizem" e que, nas redes sociais, existem várias pessoas usando a ferramenta para esse fim.

No entanto, os resultados dos chatbots da IA ​​podem ser baseados na probabilidade, os dados de treinamento podem não ser confiáveis ​​e não podem ser totalmente analisados ​​pelos médicos.

O médico da plataforma alerta: "O chatbot não pode executar a análise médica necessária ou processar informações suficientes para ser capaz de diagnosticar e, portanto, nenhum outro fator, como patologia ou meio ambiente".

Nesse sentido, as ferramentas da AMA não são uma fonte confiável de informação e podem cometer erros que "podem resultar em diagnóstico incorreto, tratamento insuficiente e riscos à saúde", por isso é crucial sempre consultar um profissional de saúde.

A plataforma também alerta que esse tipo de ferramenta sofre de "santidade" que pode levar a resultados imprecisos, incorretos ou tendenciosos que podem levar a sugestões que são prejudiciais à saúde das pessoas.

"Você não pode correr o risco de diagnosticar um sistema que não seja poderoso ou confiável", disse um maldito professor universitário.

Além disso, ter compartilhamento de dados de saúde (como imagens e arquivos médicos) com a IA Chatbots também pode representar um risco para a privacidade de todos e é possível usar essas informações para treinar seus modelos de IA.