Esta não é uma mosca carregada em um computador

Na semana passada, algumas postagens sobre uma chamada “mosca encarnada” virtual invadiram o X, impulsionadas por relatos exagerados de IA e comentaristas entusiasmados que pareciam não entender o que os entusiasmava.

Os vídeos vieram da Eon Systems, com sede em São Francisco, que afirma estar trabalhando em prol da “inteligência humana digital” e afirma querer construir uma emulação digital completa de um cérebro de rato nos próximos dois anos – um cronograma que é, para ser generoso, ambicioso. Cofundador Alexander Wissner-Gross compartilhado o clipe original publicamente, chamando-o de “a primeira personificação mundial de uma emulação de todo o cérebro que produz múltiplos comportamentos” e sugerindo uma singularidade tecnológica iminente. CEO Michael Andregg postado um corte diferente, descrevendo-o como um “animal carregado de verdade”.

E isso foi tudo como prova: nenhum método detalhado, nenhum artigo científico, nenhuma verificação independente, apenas vídeos do que parece ser uma mosca digital andando por aí, comendo e esfregando as pernas.

Relacionado à IA contas sobre X e Reddit amplificado os clipes e repetiu as legendas como um fato. Endossos previsíveis de pessoas como Elon Musk (“uau”), Bryan Johnson (“isso é incrível”), e Pedro Diamandis (“este é um ser vivo… online”) colocou lenha na fogueira. Então as fazendas de conteúdo entraram em ação, reembalando tudo como “notícias” comemorando o primeiro upload de cérebro e perguntando “Os humanos serão os próximos?” (sim, eles também referenciado A Matrize spoiler: não somos os próximos).

A internet estava agitada. A evidência ainda eram dois vídeos curtos sobre X. Se você vai contar ao mundo que acabou de atingir o que seria um dos marcos científicos mais significativos da história da humanidade, é melhor trazer os recibos.

Andregg tentou fornecer alguma clareza sobre X em um fio isso era em parte um conjunto de advertências, em parte termos científicos descritos vagamente e em parte números que soavam concretos como “91% de precisão de comportamento.” Fiquei com essa métrica por um tempo e ainda não sei realmente o que ela significa, e passei boa parte do meu mestrado estudando o comportamento animal. No entanto, ele insistiu que “este é, em nossa opinião, um verdadeiro animal carregado”.

Enviei uma mensagem para Andregg no LinkedIn pedindo mais detalhes. Ele respondeu com um link para uma postagem no blog que Eon acabara de publicado intitulado “Como a equipe Eon produziu uma mosca virtual incorporada”. Não era um artigo científico, mas era alguma coisa, eu acho.

Para os especialistas A beira conversou, aquele blog não foi suficiente, mas seguiu uma linha muito mais cautelosa do que as postagens no X, na medida em que não diz “esta é uma mosca de verdade”. Shahab Bakhtiari, professor que lidera o laboratório de neurociência de sistemas e IA da Universidade de Montreal, disse que, embora as postagens iniciais “ocultem detalhes críticos” sobre o trabalho, o novo blog fornece mais contexto. “Mas chegou um pouco tarde e continua insuficiente para validar totalmente as reivindicações”, disse ele. Ele teria esperado um relatório técnico detalhado que incluísse detalhes sobre coisas como software, código e ambientes de simulação que permitiriam que outros cientistas reproduzissem e avaliassem o trabalho.

Alexander Bates, pesquisador em neurobiologia na Harvard Medical School que estuda cérebros de moscas, concorda com Bakhtiari. Ele disse que o grupo “não apresentou resultados suficientes” e que, embora o blog fornecesse mais detalhes sobre o que a equipe fez – eles juntaram projetos existentes de grande escala, como um mapa detalhado do cérebro de uma mosca, uma simulação física do corpo de uma mosca e modelos que simulam como eles interagem em um ambiente virtual – “para uma afirmação dessa magnitude, eu esperaria algo que explicasse toda a abordagem em detalhes”.

Bates também disse que o comportamento da mosca virtual deve ser avaliado em relação a dados reais e “métricas claramente definidas”, acrescentando que o número de 91 por cento ainda não foi explicado na postagem do blog. “Além disso, a mosca não voa.”

Bates disse A beira ele entende que “um enquadramento forte e um exagero podem ser importantes para a arrecadação de fundos”, mas enfatizou que a afirmação de Eon de um “animal carregado de verdade” não é credível. Aran Nayebi, professor de aprendizado de máquina na Universidade Carnegie Mellon, disse que o grupo “não estava nem perto” de capturar todo o cérebro da mosca, mostrando conexões entre células, mas não detalhes cruciais como neurotransmissores ou quão fortes são as conexões entre diferentes células nervosas. O sistema motor também não é um “verdadeiro upload”, disse ele. “Não estamos nem simulando fielmente seu cérebro in silico.”

Tudo bem, digamos que Eon realmente fez isso. Copiou perfeitamente o cérebro da mosca. A coisa toda. Cada última parte. Temos uma mosca digital agora?

Sim. Não. Talvez. Eu não sei, e provavelmente você também não. Eon também não. O blog convenientemente encobriu as importantes questões de definição no cerne da reivindicação de upload: O que, exatamente, conta como uma mosca? Quando pensamos em moscas, não pensamos num monte de comportamentos ou conexões neurais. Pensamos em, bem, uma mosca. É suficiente reproduzir alguns comportamentos semelhantes aos de uma mosca em uma simulação? Um cérebro totalmente mapeado em um tanque virtual conta? Ou “voar” significa todo o pacote biológico confuso – um corpo, células, metabolismo e tudo o que conta como “memória” ou experiência aprendida ao longo de sua vida?

E essa é a versão fácil do problema. A coisa na tela obviamente não é uma mosca. É uma combinação de conexões neurais, programação e outras informações reunidas de vários animais diferentes. Isso é útil durante a modelagem, mas precisamente que organismo podemos afirmar de forma significativa que foi carregado neste caso? Tecnicamente falando, é também uma cópia, não um upload, o que traz implicações óbvias e profundas que o hype convenientemente ignora: você poderia fazer duas, ou 10, ou 10.000 da “mesma” mosca. E então?

Normalmente, eu não esperaria que uma startup resolvesse um grande problema metafísico – os filósofos têm discutido sobre isso há séculos – mas são eles que dizem que têm um “animal carregado de verdade”.

Os especialistas com quem conversei nem estavam convencidos de que o termo fizesse sentido. Bakhtiari disse que ainda é uma “questão em aberto” se um “animal carregado de verdade” é mesmo possível. Jonathan Birch, filósofo da London School of Economics, foi mais direto: “Acho que nunca deveríamos dizer ‘animal carregado’”, disse ele. O que Eon pretende, disse ele, é a “emulação de todo o cérebro”, deixando o resto do animal para trás.

Essa biologia é importante para o comportamento, disse Tom McClelland, filósofo da Universidade de Cambridge. “Então, na melhor das hipóteses, eles carregaram parte da mente da mosca e, assim, carregaram parte da mosca.”

Com algum tempo de atraso em sua postagem viral, perguntei a Andregg se ele mantinha sua afirmação. “Sim”, ele me disse. Aliás, foi mais longe: “Nós (o grupo de investigação e os seus colaboradores académicos) pensamos que esta mosca tem consciência num sentido limitado, pode cheirar, ver, saborear, etc.” (Eu absolutamente não entrarei em toda a questão da consciência.) Ele descreveu o sistema como uma espécie de “MVP”, produto mínimo viável, de um animal carregado, com “muitas limitações”. Não sei bem como imaginar uma mosca mínima viável. É uma mosca, não um aplicativo. MVP é linguagem de startup de tecnologia, não de ciência.

Quando voltei a Andregg pela segunda vez – desta vez depois de falar com especialistas e transmitir as suas críticas – ele ainda manteve a afirmação original, mas com ainda mais ressalvas. Ele admitiu que a obra “não é uma réplica perfeita de uma mosca” e acrescentou que Eon nunca disse que era. “Não penso no upload como um conceito binário”, disse-me ele, descrevendo “diferentes níveis” de upload e admitindo que ainda não sabemos quanta biologia é necessária para capturar a informação que importa. “Há muito mais trabalho a ser feito para atingir o nível de upload que um dia poderemos desejar.”