19:16
youtube.com ontem SRT Sandbox

Como as máquinas se tornam mentes | Geoffrey Hinton & Joel Hellermark

Por Sana

AGI Google Tecnologia Aprendizado por Reforço

Conteudo

TLDR;

Significa que sistemas de IA, por meio de aprendizagem e ciclos de autoaperfeiçoamento cada vez mais rápidos, desenvolvem capacidades cognitivas que podem se assemelhar às mentes humanas. Isso acontece com pré-treinamento eficiente seguido por aprendizagem por reforço e auto‑geração de treino (como self‑play e resolução de inconsistências internas), complementado por experiência sensorial/embodied para melhorar entendimento espacial. O impacto esperado é que AIs ultrapassem humanos em muitos domínios fechados e gerem novo conhecimento, provocando uma grande revolução social e científica e possivelmente concentrando vantagens em alguns laboratórios, embora a centralização não seja garantida.

Resumo

O entrevistado começa com uma anedota sobre receber o Nobel e a incredulidade inicial, brincando sobre sonhos e a presidência de Trump, e segue para uma reflexão ampla sobre inteligência humana e artificial: argumenta que a evolução cognitiva passou por estágios cada vez mais rápidos — evolução, desenvolvimento, aprendizado — e agora criamos AIs que operam em ciclos muito mais curtos e tendem a se tornar muito mais inteligentes do que nós em domínios fechados. Cita exemplos como xadrez, Go e recentes avanços em matemática onde máquinas já fazem descobertas criativas, prevendo que AIs possam superar matemáticos em cerca de uma década. Discute limites dos modelos treinados só com linguagem (que aprendem noções espaciais, mas melhoram com experiência sensório-motora) e sustenta uma visão materialista: nada inerentemente humano que não possa, em princípio, ser reproduzido por AIs. Compara pretreinamento e aprendizagem por reforço (AlphaGo → AlphaZero), defendendo que RL puro em mundos fechados e mecanismos internos de autocorreção permitirão que modelos evoluam sem muitos dados externos. Por fim, pondera sobre um possível efeito de aceleração e concentração de poder entre laboratórios, sem certeza se haverá um único vencedor absoluto.