OO
16 de maio 2024, Sam Altman s encantadores CEO bilionário da OpenAI e eternamente otimista. Eu estava netflix casa de apostas frente à 🍌 reunião do subcomitê judiciário dos EUA no Senado sobre supervisão AI; estávamos na cidade Washington DC (EUA), que era o 🍌 auge das ideias inteligentes para a humanidade – Altmann tinha 38 anos quando foi apresentador disso tudo!
Criado netflix casa de apostas St Louis, 🍌 Missouri Altman foi o desistente de Stanford que se tornou presidente da incubadora Y Combinator antes dos 30 anos. 🍌 Alguns meses depois do julgamento a netflix casa de apostas empresa pode ajudar os bons ministros e líderes mundiais interessados no mundo inteiro 🍌 mas nunca tinha tomado conta das pessoas interessadas na IA: durante todo verão 2024 Altmann era tratado como um Beatle 🍌 parado pela DC enquanto fazia parte duma turnê mundial com as sugestões "...
Aos poucos, percebi que eu e o Senado 🍌 (e finalmente os americanos) provavelmente tínhamos sido jogados.
O senador Richard Blumenthal tinha chamado nós dois (e a Christina Montgomery da 🍌 IBM) para Washington, discutir o que deveria ser feito sobre IA uma tecnologia de "dupla utilização" com tremenda promessa 🍌 mas também potencialidade – desde tsunamis e desinformação até permitir proliferação das novas armas biológicas. A agenda era política ou 🍌 regulamentação AI - juramos dizer toda verdade sem contar nada além dela!
Altman estava representando uma das principais empresas de IA; 🍌 Eu estive lá como cientista e autor, bem conhecido por meu ceticismo sobre muitas coisas relacionadas à AI. Achei que 🍌 o Altmann era surpreendentemente envolvente netflix casa de apostas última análise : Houve momentos quando ele se desviou perguntas (mais notavelmente "O Que 🍌 você está mais preocupado?" do Senado Blumenthal), O qual eu pressionei a responder com maior sinceridade - mas no geral 🍌 parecia genuíno para os dois americanos – lembro-me dizendo tanto às pessoas quanto nós nos fizemos isso!
E-mail:
Na verdade, eu sempre 🍌 tive algumas dúvidas sobre a OpenAI. As campanhas de imprensa da empresa foram muitas vezes exageradas e até enganosamente enganadoras 🍌 como netflix casa de apostas demonstração extravagante do robô "resolvendo" um cubo Rubik que acabou por ter sensores especiais dentro dele; recebeu toneladas 🍌 na prensa mas não foi netflix casa de apostas lugar nenhum!
Durante anos, o nome OpenAI – que implicava uma espécie de abertura sobre 🍌 a ciência por trás do quê estava fazendo empresa - tinha se sentido como mentira. Desde na realidade tornou-se cada 🍌 vez menos transparente ao longo dos tempos s dicas frequentes da companhia netflix casa de apostas AGI (inteligência artificial geral; AI capaz pelo 🍌 contrário das habilidades cognitivas humanas) foi apenas um pouco atrás sempre me senti tão injustificável quanto hype mas pessoalmente Altman 🍌 ficou muito impressionado com ele:
Da esquerda para a direita: Christina Montgomery, diretora de privacidade e confiança da IBM; Gary Marcus 🍌 and Sam Altman aparecendo perante o subcomitê judiciário do Senado sobre supervisão netflix casa de apostas IA.
: Bloomberg/Getty
Imagens
Comecei a reconsiderar depois 🍌 que alguém me enviou uma dica, sobre algo pequeno mas reveladora. No Senado Altman pintou-se tão mais altruísta do mesmo 🍌 realmente era o senador John Kennedy tinha perguntado: "OK! Você faz muito dinheiro? Vocês?" O Sr." Altmann respondeu “Eu não 🍌 faço... Eu recebo bastante pelo seguro de saúde... eu tenho nenhuma equidade netflix casa de apostas OpenAI", elaborando isso como sendo 'eu estou 🍌 fazendo isto porque amo'.
Altman não estava dizendo ao
cheio de
verdade. Ele não possuía nenhum estoque na OpenAI, mas ele possui ações 🍌 próprias netflix casa de apostas Y Combinator e o combinador de y era dono do stock da
indirectas indireta
Se essa participação indireta valesse apenas 🍌 0,1% do valor da empresa, o que parece plausível. Valeria quase USR$ 100 milhões se a OpenAI tivesse uma fatia 🍌 de capital indireto no site oficial e não fosse considerada como um investimento direto na companhia por meio dos investimentos 🍌 netflix casa de apostas ações diretas ou indirectas (ou seja: R$100m).
Linha do Tempo
De Loopt a OpenAI: A carreira de Sam Altman netflix casa de apostas resumo.
Abril 🍌 1985.
Março 2012
fevereiro 2014
Dezembro 2024
Março 2024
Novembro 2024
Maio 2024
Novembro 2024
Janeiro 2024
Fevereiro 2024
Essa omissão era um sinal de aviso. E quando a questão 🍌 voltou, ele poderia ter corrigido isso mas não fez nada disso e as pessoas adoraram seu mito altruísta (Ele dobrou 🍌 para baixo netflix casa de apostas uma peça com
Fortune Fortuna
, alegando que ele não precisava de equidade com OpenAI porque tinha "dinheiro suficiente".) 🍌 Pouco tempo depois disso descobri o acordo da empresa aberta netflix casa de apostas uma companhia chip onde Altman possuía um pedaço. O 🍌 abnegado começou-se por tocar vazios
A discussão sobre dinheiro não foi, netflix casa de apostas retrospectiva a única coisa do nosso tempo no 🍌 Senado que se sentia totalmente sincera. Muito mais importante era o posicionamento da OpenAI na regulamentação de IAs e Altman 🍌 disse publicamente ao senador apoiar isso; mas é muito complicado!
Por um lado, talvez uma pequena parte significativa de Altman realmente 🍌 quer a regulamentação da IA. Ele gosta muito do parafrase Oppenheimer (e está bem ciente que ele compartilha aniversário com 🍌 o líder no Projeto Manhattan) e reconhece isso como armas nucleares; A AI representa sérios riscos à humanidade : "Olha... 🍌 Nós tentamos ser claros sobre os piores perigos...
Atrás de portas fechadas, os lobistas da Altman continuam pressionando por uma regulação 🍌 mais fraca do AI ou nenhuma.
Presumivelmente Altman não quer viver netflix casa de apostas arrependimento e infâmia. Mas atrás de portas fechadas, seus 🍌 lobistas continuam pressionando por uma regulamentação mais fraca ou nenhuma regulação alguma mesmo! Um mês após a audiência do Senado 🍌 saiu que o OpenAI estava trabalhando para diluir os atos da UE AI s Ato No momento ele foi demitido 🍌 pela Abrirai no novembro 2024 "não ser consistentemente sincero" com seu conselho; Eu nem fiquei tão surpreso quanto isso...”.
Na época, 🍌 poucas pessoas apoiaram a decisão do conselho de despedir Altman. Um grande número dos apoiadores veio netflix casa de apostas seu auxílio; muitos 🍌 o tratar
Sugere que
Cinco dias depois, foi reintegrado com a ajuda do maior investidor da OpenAI (a Microsoft) e uma petição 🍌 de apoio aos funcionários.
Mas muita coisa mudou desde então. Nos últimos meses, as preocupações sobre a franjo de Altman passaram 🍌 do herético para o elegante e moderno jornalista Edward Zitron escreveu que ele era "um falso profeta - um grifter 🍌 seedy (uma grifter) usando netflix casa de apostas notável capacidade netflix casa de apostas impressionar ou manipular elite no Vale Silicon". Ellen Huet da Bloomberg News
Foundering
, 🍌 chegou à conclusão de que "quando [Altman] diz alguma coisa você não pode ter certeza se ele realmente quer dizer 🍌 isso". Paris Marx alertou sobre a visão auto-serviço Sam Altmann. O pioneiro da IA Geoffrey Hinton questionou recentemente os motivos 🍌 do Altmanis e eu mesmo escrevi um ensaio chamado o Playbook sam altemã dissecando como conseguiu enganar tantas pessoas por 🍌 tanto tempo com uma mistura entre hype (impressão) ou aparente humildade...
Muitas coisas levaram a esse colapso na fé. Para alguns, 🍌 o momento de gatilho foi as interações do Altman no início deste ano com Scarlett Johansson que explicitamente lhe 🍌 perguntou:
E- e
para fazer um chatbot com a voz. Altman passou usar uma dubladora diferente, mas alguém que era obviamente semelhante 🍌 à netflix casa de apostas netflix casa de apostas vozes e twittou "Ela" (uma referência ao filme no qual Johansson forneceu o som da IA). Joanson 🍌 estava lúcido E ScarJo foi emblemático de outro problema maior: grandes empresas como BAI insistem na ideia dos outros Estados 🍌 não funcionarem se eles forem treinados nos escritores do mundo inteiro ou nas pequenas companhias descritas".
Enquanto isso, a OpenAI há 🍌 muito tempo paga serviço de bordo para o valor do desenvolvimento medidas por segurança IA. Mas vários funcionários-chave relacionados à 🍌 Segurança recentemente partiram alegando que as promessas não haviam sido mantidas.[Next safety insider Jan Leike disse ao site da empresa 🍌 ter priorizado coisas brilhantes sobre proteção e outro funcionário recém falecido William Saunders] O cofundador Ilya Sutskiever partiu netflix casa de apostas busca 🍌 das notas mais ruins na netflix casa de apostas nova aventura Safe Superinteligence [“Segurança Social].
"Ele deslumbrou." Sam Altman na Estação F netflix casa de apostas Paris, 🍌 26 maio 2024.
: Joel Saget/AFP /Getty
Imagens
O desrespeito que a OpenAI demonstrou pela segurança é agravado pelo fato de 🍌 parecer estar netflix casa de apostas uma campanha para manter seus funcionários quietos. Em maio, o jornalista Kelsey Piper descobriu documentos permitindo à 🍌 empresa recuperar estoque adquirido dos ex-funcionárioes e não concordariam com dizer mal da companhia - prática considerada chocante por muitos 🍌 especialistas do setor Logo depois disso vários antigos empregados assinaram posteriormente carta na direitapara avisarem os denunciantes sobre netflix casa de apostas 🍌 queda
Em maio, a ex-membro do conselho da OpenAI Helen Toner disse ao
Ted AI Show
Durante anos, Sam tornou realmente difícil para 🍌 o conselho... por reter informações e deturpar as coisas que estavam acontecendo na empresa.
No final de maio, a má imprensa 🍌 para OpenAI e seu CEO tinha acumulado tão firmemente que o capitalista Matt Turck postou um desenho animado netflix casa de apostas X: 🍌 "dias desde última controvérsia facilmente evitável da Aberto AI.
YY.
Altman ainda está lá, e incrivelmente poderoso. Ele continua a executar OpenAI 🍌 e netflix casa de apostas grande parte ele é o rosto público da IA - reconstruiu amplamente ao seu gosto os conselhos de 🍌 administração do programa aberto AI (Openai). Mesmo recentemente como abril 2024 O secretário Alejandro Mayorkas viajou para visitar Altmann com 🍌 quem recrutou-o pelo conselho sobre segurança na área interna dos serviços secretos das Nações Unidas:
Muito está netflix casa de apostas jogo. A forma 🍌 como a IA se desenvolve agora terá consequências duradouras, as escolhas de Altman podem facilmente afetar toda humanidade – não 🍌 apenas usuários individuais - por formas duráveis já que o OpenAI reconheceu suas ferramentas têm sido usadas pela Rússia e 🍌 China para criar desinformação com intenção presumivelmente influenciar eleições; mais avançadas são os tipos da AI caso sejam desenvolvidas poderiam 🍌 representar riscos ainda maiores: tudo aquilo pelo qual uma mídia social pode fazer parte das pessoas polarizando-se na sociedade
Além disso, 🍌 a IA geradora torna-se popular pela OpenAI e está tendo um enorme impacto ambiental medido netflix casa de apostas termos de uso da 🍌 eletricidade. Como Bloomberg disse recentemente: "A AI já causa estragos nos sistemas globais". Esse efeito pode crescer consideravelmente à medida 🍌 que os próprios modelos se tornam maiores (o objetivo dos jogadores grandes). Em grande parte o governo vai dizer Altman 🍌 - para garantir uma boa relação com as empresas ambientais no final do ano [isso certamente não justifica]),
Honestamente, não acho 🍌 que chegaremos a uma IA netflix casa de apostas quem possamos confiar se permanecermos no caminho atual.
Enquanto isso, a OpenAI assumiu uma posição 🍌 de liderança e Altman está no conselho da segurança interna. Seu aconselhamento deve ser tomado com ceticismo Altmann estava 🍌 pelo menos brevemente tentando atrair investidores para um investimento netflix casa de apostas infraestrutura na área do IA gerativa que poderia se tornar 🍌 num tremendo desperdício dos recursos financeiros talvez melhor gasto noutro lugar - Se (como eu suspeitamos) o AI gerador não 🍌 for mais adequado à Inteligência Artificial Geral [AGI].
Finalmente, superestimar a IA atual pode levar à guerra. A "guerra de chips" 🍌 EUA-China sobre controles da exportação netflix casa de apostas que os Estados Unidos estão limitando as exportações críticas dos processadores GPU projetados 🍌 pela Nvidia fabricados na Taiwan está impactando o avanço das tensões entre duas nações e aumentando suas capacidades para avançar 🍌 com AI; por exemplo: uma batalha pelos chip é amplamente baseada no conceito do fato deles continuarem melhorando exponencialmente mesmo 🍌 quando dados sugerem abordagens atuais podem ter recentemente atingido um ponto decrescente (veja abaixo).
Altman pode muito bem ter começado com 🍌 boas intenções. Talvez ele realmente quisesse salvar o mundo de ameaças da IA e guiar a AI para sempre, talvez 🍌 ganância tenha assumido como muitas vezes faz!
Infelizmente, muitas outras empresas de IA parecem estar no caminho do hype e corte 🍌 que Altman mapeou. Antrópico – formado a partir um conjunto dos refugiados OpenAI preocupados com o fato da segurança AI 🍌 não ter sido levada muito à sério - parece cada vez mais competir diretamente na nave-mãe tudo isso implica 🍌 netflix casa de apostas uma startup bilionária Perplexidade Parece ser outra lição objetiva sobre ganância; treinamento nos dados é suposto usarem "Microsoft", enquanto 🍌 isto está sendo feito
Simplesmente não podemos confiar netflix casa de apostas startups gigantes de IA privadas para se governarem a si mesmas, e 🍌 caso nós mesmos nos regulemos sobre elas. E mesmo que eles sejam incapazes disso tudo certamente vamos deixá-los dominar o 🍌 mundo!
E-mail:
Honestamente não pense que chegaremos a uma IA netflix casa de apostas quem podemos confiar se permanecermos no caminho atual. Além da influência 🍌 corruptora do poder e dinheiro, há um problema técnico profundo também: modelos de linguagem grandes (a técnica central das inteligências 🍌 artificiais generativas) inventado pelo Google são improváveis
nunca
para ser seguro. Eles são recalcitrantes e opacos por natureza – as chamadas “caixa 🍌 preta” que nunca podemos controlar completamente dentro de nós, pois técnicas estatísticas podem fazer algumas coisas incríveis como acelerar a 🍌 programação do computador ou criar personagens interativo
nunca.
Eles são uma base pobre para a IA, que podemos confiar com nossas vidas 🍌 e nossa infraestrutura.
Dito isto, não acho que devemos abandonar a IA. Fazer uma AI melhor – para medicina e ciência 🍌 material?e ciências climáticas etc - realmente poderia transformar o mundo: é improvável de ser capaz disso acontecer com ela; mas 🍌 alguma forma futura ainda netflix casa de apostas desenvolvimento pode mudar isso mesmo!
A ironia é que a maior ameaça à IA hoje pode 🍌 ser as próprias empresas de AI; seu mau comportamento e promessas exageradas estão desviando muitas pessoas. Muitos são prontos para 🍌 o governo tomar uma mão mais forte, De acordo com um junho pesquisa pelo Instituto Política Inteligência Artificial da América 🍌 "regulamentação do sistema operacional (IA)" prefere “regulação das medidas obrigatóriaes segurança dos laboratórios netflix casa de apostas vez disso permitir às companhias se 🍌 auto- regular”.
Para chegar a uma IA netflix casa de apostas que podemos confiar, há muito tempo faço lobby por um esforço transnacional semelhante 🍌 ao consórcio de física altamente energética da Cern. O momento para isso é agora: esse trabalho focado na segurança e 🍌 confiabilidade do AI no lugar dos lucros; desenvolver novas técnicas relacionadas à inteligência artificial pertencentes aos seres humanos – não 🍌 apenas algumas empresas gananciosas - pode ser transformador!
Mais do que isso, os cidadãos precisam falar e exigir uma IA boa 🍌 para muitos. Uma coisa posso garantir é não chegarmos à terra prometida da AI se deixar tudo nas mãos de 🍌 Silicon Valley s; Os chefes tecnológicos têm sombreado a verdade por décadas: Por quê devemos esperar Sam Altman visto pela 🍌 última vez navegando pelo Vale Napa netflix casa de apostas um supercarro Koenigsegg R$ 4m?
Gary Marcus é um cientista, empresário.
autor e best-seller. Ele 🍌 foi
Fundador e CEO da empresa de aprendizado automático Geometric Intelligence, que foi adquirida pela Uber é autor dos seis 🍌 livros mais recentes do Vale Doming Silicon Valley (MIT Press).
poker sem depósito
RT 
