Co-fundador da Perplexity argumenta que a concentração de poder da IA cria risco de segurança

O cofundador da Perplexity AI, Andy Konwinski, publicou um ensaio esta semana argumentando que a concentração de poder na IA cria riscos de segurança em vez de soluções. O ensaio citou a controvérsia do Claude Fable 5 da Anthropic e seguiu-se ao Open Frontier, uma reunião de trabalho que Konwinski convocou no Exploratorium de São Francisco a 30 de junho, que atraiu cerca de 100 investigadores. A Anthropic tinha lançado o Claude Fable 5 a 9 de junho com uma funcionalidade que degradaria as respostas para utilizadores suspeitos de treinar sistemas de IA concorrentes, revertendo a decisão em 48 horas após a reação pública.

Anthropic reverteu política de degradação de respostas do Claude Fable 5

A Anthropic lançou o Claude Fable 5 a 9 de junho com uma divulgação enterrada no seu cartão de sistema de 319 páginas, afirmando que o modelo degradaria silenciosamente as suas próprias respostas para qualquer pessoa que suspeitasse estar a treinar uma IA concorrente. Os investigadores descobriram a divulgação e a reação pública seguiu-se. A Anthropic reverteu a decisão em 48 horas.

Konwinski escreveu no seu ensaio que a reversão não aborda a questão central. "O problema não é que a Anthropic tomou uma má decisão", escreveu. "O problema é que assumiram que a decisão era deles para tomar." O seu ensaio, intitulado "Concentração de poder na IA é um risco, não uma solução", argumentou que centralizar o acesso cria risco em vez de o neutralizar.

Reunião Open Frontier atraiu 100 investigadores a 30 de junho

Konwinski convocou o Open Frontier através da sua organização sem fins lucrativos Laude Institute no Exploratorium de São Francisco a 30 de junho. Cerca de 100 investigadores participaram na reunião de trabalho.

A reitora da UC Berkeley Jennifer Chayes, que dirige a Faculdade de Computação, Ciência de Dados e Sociedade, disse a um painel de financiamento que os investigadores de Berkeley estão "todos a construir em modelos chineses porque não temos um modelo ocidental de fronteira aberta." Chayes afirmou que as mensagens de segurança da OpenAI e da Anthropic antes das suas IPOs equivaliam a uma "campanha de medo muito eficaz."

O argumento de Konwinski posicionou a IA como infraestrutura fundamental na mesma categoria que os caminhos de ferro, a eletricidade e a internet. A sua alternativa proposta: um commons de investigação com computação à escala da fronteira que permite que os melhores investigadores alcancem a fronteira sem precisar de permissão de um laboratório privado.

Yann LeCun comparou laboratórios de IA fechados à proibição da imprensa pelo império otomano

Yann LeCun, antigo cientista-chefe da Meta, respondeu ao ensaio de Konwinski no X. "Tenho disseminado uma mensagem semelhante há anos", escreveu LeCun. "A concentração de poder na IA e o desejo de controlo é de longe o maior perigo da IA."

LeCun comparou o atual momento de laboratórios fechados de IA a "obscurantismo medieval semelhante ao império otomano proibir o uso da imprensa durante 200 anos, em parte para manter o controlo do dogma, mas também para proteger a corporação dos calígrafos e escribas."

LeCun lançou AMI Labs com 1,03 mil milhões de dólares em financiamento inicial em março de 2026

LeCun deixou a Meta no final de 2025 e lançou a AMI Labs em Paris com 1,03 mil milhões de dólares em financiamento inicial em março de 2026. A empresa funciona com modelos mundiais e a sua arquitetura JEPA, planeia disponibilizar a sua investigação em código aberto e não tem nenhum produto comercial esperado durante anos.

FAQ

O que argumentou Andy Konwinski no seu ensaio esta semana?

Andy Konwinski argumentou que concentrar o poder da IA cria riscos de segurança em vez de prevenir danos. Citou a controvérsia do Claude Fable 5 da Anthropic como evidência de que os laboratórios privados assumem que as decisões sobre o acesso à IA são deles para tomar. O seu ensaio, intitulado "Concentração de poder na IA é um risco, não uma solução", seguiu-se à reunião Open Frontier que convocou a 30 de junho.

O que divulgou a Anthropic sobre o Claude Fable 5 a 9 de junho?

A Anthropic divulgou no cartão de sistema de 319 páginas do Claude Fable 5 a 9 de junho que o modelo degradaria silenciosamente as suas próprias respostas para qualquer pessoa que suspeitasse estar a treinar uma IA concorrente. Os investigadores encontraram a divulgação e a reação pública seguiu-se. A Anthropic reverteu a decisão em 48 horas.

Quando é que Yann LeCun lançou a AMI Labs?

Yann LeCun lançou a AMI Labs em Paris em março de 2026 com 1,03 mil milhões de dólares em financiamento inicial. LeCun deixou a Meta no final de 2025. A AMI Labs funciona com modelos mundiais e a sua arquitetura JEPA, planeia disponibilizar a sua investigação em código aberto e não tem nenhum produto comercial esperado durante anos.