Uma Inteligênia Artificial (IA) TEM Revolucionada Diversos se esferas, Mas Tambéma AprEstera Desafios Significativos. UM DELES É O FENMENO CONHECIDO COMO “ALUCINAÇAS”, TERMO UTILIZADO PELA INDÚSTRIA TECNOLÓGICA PARA DESCREVER ERROS COMETIDOS POR SISTEMAS DE ia generativa.
Marcelo Tripoli, Comentarista de InovAção da CNN, Explica que, DifERENTEMENTE DE UMA Busca no Googlecomo respastas fornecidas pela ia parecem muito assertivas, o que có o levar os usuários, um excesso de confiar Nelas. “Uma alucinaça do NormalentE é BEM construada, Não é uma Frase Sem Nexo”, Afirma Trípoli.
O perigo das respostas aparentemente precisas
O Especialista alerta que ESSA Confiança Pode IndUzir A Erros Significativa e Decisões Equivocadas. “Ele Chuta Muito Bem. Ele na Verdade Não Sabe, Mas Ele Vai Ali Com Fé Na Resposta Dele”, Explica Tripoli, Resaltando que ISSO PODE Levar A Pessoa A Tomar decisões Baseadas em Informas Incleretas.
Um teste Realizado com o chatgpt Demonstou ESSA Problemática. Ao ser questionado, Sobre O Filme “Ainda Estou AquiDe Walter Salles, o Sistema Forneceu Informações completas Equivocadas em três Tentativas DiFerentes, SEM Admitir Desconhecimento.
Fatores que influenciam como “alucinaÇas”
Tripoli Esclarece Que, como alucinaÇas ocorrem devido a diversos fatores, inclusive uma dessatualização da base de dadas e a análise estatística realizada pela ia. “Ó que uma Máquina Está Fazendo É uma Análise Probabilística de Uso de Palavras”, Explica.
O Comentarista Tamboma Destaca que o idioma da consulta influenciando um precisão das respastas, Já que muitos sistemas de ia São Deenvolvidos Primariate em inglês e realização de realização de trocas em tempo real para odliomas.
Recomendações para USO seguro
Para Evitar Problemas decorrentes das alucinações da ia, Trípoli Recomenda:
- Verificante a informação em mais uma de uma fonte de ia;
- Não considera uma Primeira Responsta como definitiva;
- MANTER Uma Postura crítica em RelAção às Informações Recebidas;
- Não Utilizar a Ia Como Ferradores definitivamente para o tomada de decises importantes sem verificações adicionais.
APESAR DOS DESAFIOS ATUAIS, TRUPOLI É OTIMISTA ALO FUTURO. Ele prevê que o percentual de alucinações tende um significativo significativo nos próxxosos anos, possible rhegando um menos de 2% de erro. Nenhum entanto, até lá, uma vigilância ea verifica ãe humana continua senda essenciais no uso de sistemas de ia.