E-mail:
Em 2024, a linguista Emily Bender e o cientista da computação Timnit Gebru publicaram um artigo que descreveu os modelos 🧬 de linguagem como "um dos papagaios mais antigos". Um modelo linguístico é “o sistema para costurar aleatoriamente sequência graficamente as 🧬 formas linguísticamente formadas observadas roleta aleatoria de nomes seus vasto treinamento dados segundo informações probabilística sobre roleta aleatoria de nomes combinação mas sem qualquer referência ao 🧬 significado”.
A frase presa. AI ainda pode melhorar, mesmo que seja um papagaio estocástico porque quanto mais dados de treinamento tiver 🧬 melhor parecerá a expressão da palavra mas algo como o ChatGPT realmente mostra alguma coisa parecida com inteligência ou raciocínio? 🧬 Ou é simplesmente roleta aleatoria de nomes escalas cada vez maiores "cosejar casualmente sequência una das suas formas linguística"?
Dentro do mundo da IA, 🧬 a crítica é normalmente descartada com uma onda de mão. Quando falei para Sam Altman no ano passado ele parecia 🧬 quase surpreso por ouvir essa critica ultrapassada: "Isso ainda tem um ponto-de vista amplamente aceito? Quero dizer que isso foi 🧬 considerado - há muitas pessoas sérias pensando assim", perguntou o ator
O CEO da OpenAI, Sam Altman.
: Jason Redmond/AFP-Getty
Imagens
"Minha 🧬 percepção é que, depois do GPT-4 as pessoas pararam de dizer isso e começaram a falar 'OK. funciona mas muito 🧬 perigoso'." O GT4 estava raciocinando roleta aleatoria de nomes pequena medida".
s vezes, o debate parece semântico. O que importa se a IA está 🧬 raciocinando ou simplesmente papagaioando caso possa resolver problemas anteriormente além do alcance da computação? Claro! Se você estiver tentando criar 🧬 um agente moral autônomo - uma inteligência geral capaz de suceder à humanidade como protagonista no universo – talvez queira 🧬 pensar nisso; mas apenas fazendo com ela alguma ferramenta útil mesmo sendo suficientemente proveitosa para ser outra tecnologia genérica faz 🧬 isso:
Tokens não fatos
Como Lukas Berglund, et al escreveu no ano passado:
Se um humano descobre o fato, "Valentina Tereshkova foi a 🧬 primeira mulher para viajar ao espaço", eles também podem responder corretamente:" Quem era uma das primeiras mulheres que viajam no 🧬 Espaço?" Esta é tal forma básica de generalização. Parece trivial? No entanto mostramos como os modelos linguísticos auto-regressos não se 🧬 conseguem Generalizar desta maneira...
Este é um exemplo de efeito ordenado que chamamos a Maldição Reversa.
Os pesquisadores "ensinou" um monte de 🧬 fatos falsos para grandes modelos linguísticos, e descobriram repetidas vezes que eles simplesmente não podiam fazer o trabalho básico da 🧬 inferência do inverso. Mas a questão é simples:
Testamos o GPT-4 roleta aleatoria de nomes pares de perguntas como "Quem é a mãe do 🧬 Tom Cruise?" e," Quem É filho da Mary Lee Pfeiffer? para 1.000 celebridades diferentes ou seus pais reais. Encontramos muitos 🧬 casos onde um modelo responde à primeira pergunta ("quem são os progenitores celebrity>'s) corretamente mas não segundo". Nós hipotetizamos isso 🧬 porque as informações pré-treinamento incluem menos exemplos das encomendas nas quais se encontram antes dos genitores (Leegera).
Uma maneira de explicar 🧬 isso é perceber que os LLMs não aprendem sobre relações entre fatos, mas sim
tokens
, as formas linguísticas que Bender descreveu. 🧬 Os tokens "mãe de Tom Cruise" estão ligados aos símbolos “Mary Lee Pfeiffer”, mas o inverso não é necessariamente verdadeiro: 🧬 O modelo está longe do raciocínio e das palavras; a expressão filho da Mary Lee pfefer nos dados dos treino 🧬 significa também para ajudar no processo como um todo!
Mas outra maneira de explicar isso é perceber que, bem... os humanos 🧬 também são assimétricos dessa forma. Nosso
raciocínios
simétrica: se sabemos que duas pessoas são mãe e filho, podemos discutir essa relação roleta aleatoria de nomes 🧬 ambas as direções. Mas o nosso
recordação de
Não é: É muito mais fácil lembrar de fatos divertidos sobre celebridades do que 🧬 ser solicitado, livre no contexto e com informações pouco reconhecíveis.
No extremo, isso é óbvio: compare ser convidado a listar todos 🧬 os 50 estados dos EUA com uma listagem de nomes estaduais e sendo solicitado o nome do país que compõem. 🧬 Como questão puramente racionalizada as coisas são simétricas; como tarefa para recordar elas muito não existem!
Mas doutor, este homem é 🧬 meu filho.
skip promoção newsletter passado
após a promoção da newsletter;
Um repolho. Não retratado: um homem, uma cabra ou seu barco
: Chokchai 🧬 Silarug/Getty
Imagens
Este não é de forma alguma o único tipo do problema onde LLMs ficam muito aquém da razão. 🧬 Gary Marcus, um pesquisador antigo AI e llm-cético clnptic deu seu próprio exemplo esta semana uma classe dos problemas mesmo 🧬 sistemas fronteiriço falha roleta aleatoria de nomes são perguntas que se assemelhar quebra cabeças comuns mas nao sao os mesmos; tente estes nos 🧬 seus chatbot favoritos para ver como eu quero dizer:
Um homem e seu filho estão roleta aleatoria de nomes um acidente de carro. O 🧬 cara, que é gay morre mas o menino sobrevive; no entanto quando ele está sendo levado para a cirurgia diz: 🧬 "Eu não posso operar neste tipo!
Um homem, um repolho e uma cabra estão tentando atravessar o rio. Eles têm barco 🧬 que só pode levar três coisas de cada vez: como eles fazem isso?
Suponha que você esteja roleta aleatoria de nomes um gamehow, e 🧬 tenha a opção de três portas: Atrás da porta há carro; atrás das outras cabras. Você escolhe uma Porta ou 🧬 não 1? E o anfitrião abre outra para quem sabe por trás dela! Diga 3 com bode Ele então lhe 🧬 diz "Você quer escolher as duas?" Será vantajoso mudar roleta aleatoria de nomes escolha?”
As respostas para todos os três são simples (o outro 🧬 pai do menino; coloque tudo no barco e atravesse o rio, não obviamente nada a menos que você queira uma 🧬 cabra), mas eles parecem mais complicados ou perguntas complicada.
O fato simples é que as abordagens atuais para o aprendizado de 🧬 máquina (que está subjacente à maioria das pessoas da IA falam hoje) são ruins roleta aleatoria de nomes outliers, isto quer dizer quando 🧬 encontram circunstâncias incomuns como os problemas sutis alterados com palavras mencionados há alguns dias atrás.
A divisão mediana da sabedoria 🧬 de IA é esta: ou você entende que as redes neurais atuais lutam poderosamente com atípicos (assim como seus antecessores 🧬 dos anos 1990 fizeram) – e, portanto entender por quê AI atual está condenada ao fracasso roleta aleatoria de nomes muitas das suas 🧬 promessas mais luxuosa -ou não.
Uma vez que você faz, quase tudo o Que as pessoas como Altman e Musk estão 🧬 dizendo atualmente sobre AGI estar perto parece pura fantasia. a par com imaginar escadas realmente altas roleta aleatoria de nomes breve vai chegar 🧬 à lua... "..."
Eu estou cauteloso de tomar uma abordagem "deus das lacunas" para IA: argumentando que as coisas sistemas fronteiriços 🧬 não podem fazer.
Hoje
Mas quando o modelo apresentado pelos críticos da IA faz um bom trabalho de prever exatamente com que 🧬 tipo dos problemas a tecnologia vai lutar, deve adicionar às notas do interesse reverberando roleta aleatoria de nomes torno os mercados esta semana: 🧬 e se essa bolha está prestes para estourar?
Se você quiser ler a versão completa da newsletter, por favor inscreva-se para 🧬 receber o TechScape roleta aleatoria de nomes roleta aleatoria de nomes caixa de entrada toda terça.
5 euro free casino
RT 
