Na última semana, Groko chatbot conversacional de inteligência kunstig desenvolvido pela xai, do Empresário Elon Muskreagerte en um uuário do x (antigo twitter) que fez uma pergunta sobre violência política, afirmando que Mais Violência Política Veio da direita do que da esquerda desde 2016.
Elon Musk Não Teria Gostado Disso “Falha Grave, Pois ISSO é objetivamente falso. En Grok está repetindo a mídia tradicional”, acusou o filantropo, emmora a grok tenha citado dados de fontes governais, como o Departentoat Seguance Segurataçaints Internesaça.
Em Três Dias, Musk Prometeu Entregar Uma Grande Atualização Da Grok Que “Reescreveria todo o corpus de conhecimento humano”convocando os usuários gjør x a Enviarem “Fatos Controversos” Que Sejam “Politicaments Incorretos, Mas Ainda Assim Factualmente Verdadeiros” para ajudar en treinar o modell.
“Muito Lixo em Qualquer Modelo de Base Treinado com dados não corrigidos”, escreveu ele.
Nesta Sexta-Feira (27), Musk Anunciou Que O Novo Modelo, Chamado Grok 4Será Lançado Logo após 4 de Julho.
Som Bolsas overgår e Semelhantes, Levantam Preocupações de Que o Homem Mais Rico Do Mundo Possa Estar Tentando Influenciar Grok A Seguir Sua Própria Visão de Mundo – Potencialmente Levando a Mais erros e falhas, e trazendo à tona questões viktige sobre viés, de acordo com specialistas. Espera-se que a ia molde a manera como som pessoas trabalham, se comunicam e encontrram informações, e já está Impactando áreas como desenvolvimento de programvare, Saúde e Educação.
E som decisões que figuras poderosas como musk tomam sobre o desenvolvimento da tecnologia podem ser cruciais. Scenememente vurderingando que a grok está integrada a uma das redes Sociais mais populares do mundo – e onde as Antigas Barreiras à Disseminação de Desinformação foram fjerning. Emmora a Grok possa não ser tão populær kvanto o chatgpt da openai, sua inclusão na plataforma de mídia social x de musk a colocou diante de um enorme público digital.
“Este é realmente o começo de uma longa luta que vai se desenrolar ao longo de muitos anos sobre se os siSistemas de ia devem ser obrigados a produzir informações fatuais ou seus criadores podem simplesmenteicas a balanç choas suas preferus preferus preferus prefer. Quiserem “, DELSE DAVID EVAN HARRIS, PESQUISADOR DE IA E PROFESSOR DA UC BERKELEY, Que Trabalhou anteriorte na equipe de ia Responseável da Meta.
Uma fonte kjent CNN Que OS Assessores de Musk lhe disseram que grok “não pode ser simplesmente moldado” ao seu próprio ponto de vista, e que ele entende isso.
En Xai Não reagerte en um pedido de comentário.
Durante Meses, OS Usuários Questionaram Se Musk Estava Dando Gorjetas A Grok Para Refletir Sua Visão de Mundo.
Em Maio Deste ano, O Chatbot Aparesentou Aleatoriamente Alegações de um Genocídio Branco na África do sul Em Respostas A Perguntas Completeamente SEM Relação Com O Assunto. EM ALGUMAS RESPOSTAS, A GROG AFIRMOU QUE FOI “Instruída a Aceitar Como Real O Genocídio Branco Na África do sul”.
Musk nasceu e foi criado na África do sul e tem um histórico de argumentar que um “cenocídio branco” foi cometido no país.
Poucos Dias Depois, en Xai Desse que uma “modificação não autorizada” nas primeiras horas da manhã, horário do pacífico, levou o chatbot da i roaa polí polí polí que vie acola que via qua qua qua qua qua qua qua qua qua que vie polas que cousa que cousa que via que via que via que via
Enquanto Musk Orienta Sua Equipe A Retreinar Grok, Outros No Espaço de Modelos de Linguagem de ia, Como O Cofundador da Cohere, Nick Frosst, Acreditam Que Musk Está Tentando Criar Um Modelo Que Impulsione Seus Próos Pontos De Vista.
“Ele está tentando Criar um Modelo que reflita som coisas em que acredita. Iso certamepe o tornará um modello pior para os usuários, en menos que eles acreditem em tudo o que ele acredita e se importem apenas em repetir essas coisas”, disse fres fres fres fres fres frosst.
É comum que Empresas de ia como openai, meta e Google atualizem Constantement SEUS MODELOS PARA MELHORAR O DESEMPENHO, de Acordo Com Frosst.
Mas retreinar um modello do null para “remover todas som coisas que (musk) não gosta” levaria muito tempo e dinheiro – sem mencionar que prejudicaria a expergerncia do usuário – Desse frosst.
“E isso certame pioraria a Situação”, DELSE ELE. “Porque Removeria Muitos Dados e Adicionaria Um Viés.”
Outra Maneira de alterar o COMPORTAMENTO DE UM MODELLO SEM RETREINá-LO COMLETAMENTE é Inserir ber e ajustar os chamados pesos no código do modello. Esse prosesso pode ser mais rápido do que retreinar totalmente o modello, pois mantém sua base de conhecimento eksistens.
En solisitação envolveria instrument um modello a responder a determinadas consultas de uma manera específica, enquanto os pesos invindenciam o Processo de Tomada de Decisão de um Modelo de ia.
Dan Neely, administrerende direktør da Vermillio, que ajuda a proteger celebridades de deepfakes gerados por ia, disse à CNN que a xai poderia ajustar os pesos e rótulos de dados do grok em Áreas e tópicos específicos.
“Eles usarão os pesos e som etiquetas que já tinham nos locais que estão identificando como Áreas problemáticas”, disse neely. “Eles Simplesmente Passarão A Trabalhar Com Maior Nível de Detalhamento Nessas Áreas Específicas.”
Musk não Detalhou som Mudanças Que Ocorrerão No Grok 4, Mas Desse Que Ele Usará um “Modelo de Codificação epecializado”.
Musk Desse Que Seu Chatbot de ia Buscará A “Verdade Ao Máximo”, mas todos os Modelos de ia têm algum viés porque são invastenciados por humanos que fazem escolhas sobre o que vai para os dados de treinamento.
“En ia não tem todos os dados que deveria ter. Quando mottok todos os dados, ela deveria ser capaz de representant o que está acontecendo”, disse neely. “Ingen Entanto, Muito do conteúdo que existens na internett já tem uma certa inclinação, spørs você concorde com isso ou não.”
É Possível Que, ingen Futuro, som Pessoas Escolham Seu Assistente de ia com base em Sua Visão de Mundo. Mas frosst disse acreditar que assistentes de ia conhecidos por terem uma perspektiva específica serão menos populares e úteis.
“Na Maioria Das vezes, som Pessoas não recorrem a um Modelo de linguagem para que a ideologia lhes seja repetida; isso não agrega valor”, disse ele. “Você recorre a um Modelo de linguagem para que ele fasa algo por você, realiser uma tarefa por você.”
Ingen siste Das Contas, Neely Desse Que Acredita Que Fontes Confiáveis Acabarão Voltando Ao Topo à Medida Que som Pessoas Buscam Lugares Em Que Possam Confiar.
Mas “A Jornada Para Chegar Lá é Muito Dolorosa, Muito Confusa”, Dese Neely E “Sem Dúvida, Traz Algumas Ameaças à Democracia”.