Pesquisadores ligados ao desenvolvimento de sistemas avançados de inteligência artificial consideram possível que a tecnologia provoque a extinção humana ainda nesta década. Jacob Coxon deixou a Anthropic nesta semana, depois de também trabalhar na OpenAI, e alertou para os riscos da corrida em direção à superinteligência.
Evan Hubinger, que lidera pesquisas de alinhamento na Anthropic, atribui probabilidade superior a 10% a um cenário em que a IA cause a morte de toda a humanidade nos próximos dez anos. A avaliação não representa consenso científico nem significa que esse futuro ocorrerá, mas envolve profissionais diretamente ligados à construção desses sistemas.
O encontro em Nova Déli
O debate ganhou destaque durante um encontro realizado em Nova Déli, com a participação de empresas e instituições indianas de tecnologia. Entre as companhias presentes estava a Aham37, empresa de inteligência artificial cujo nome remete a uma reflexão sobre a natureza da inteligência.
O evento foi promovido pelo Electronics and Computer Software Export Promotion Council (ESC), entidade que reúne empresas do setor tecnológico indiano. A iniciativa também apresentou possibilidades de aproximação tecnológica entre Brasil e Índia em inteligência artificial, software, infraestrutura digital e centros de dados.
Em sânscrito, aham significa eu ou eu sou. O número 37 faz referência simbólica aos 36 tattvas, princípios da realidade desenvolvidos na tradição do Shaivismo da Caxemira. Esses princípios descrevem a passagem da consciência pura à experiência individual e ao mundo material.
Na interpretação associada à Aham37, o 37 representa aquilo que está além dos 36: a consciência-testemunha, capaz de observar a realidade antes de agir sobre ela. O nome pode ser entendido, em termos filosóficos, como o Eu que observa.
Inteligência, consciência e propósito
A proposta da empresa é que a inteligência não seja avaliada apenas pela quantidade de informações processadas, pela velocidade dos cálculos ou pelo número de tarefas executadas. A ideia é incluir percepção antes da ação, compreensão antes da decisão e propósito junto ao poder.
A tecnologia já permite construir sistemas que processam conhecimento, escrevem programas, produzem imagens e vídeos, elaboram estratégias, realizam pesquisas científicas e podem aperfeiçoar as próprias capacidades. A questão levantada é se a sabedoria necessária para governar esse poder avança no mesmo ritmo.
A referência filosófica não é apresentada como solução técnica para o alinhamento da inteligência artificial. Ela propõe outra forma de pensar esses sistemas: não apenas como instrumentos de ação, mas também como estruturas relacionadas à observação, à compreensão e a um propósito.
Os 36 tattvas representam o universo da manifestação, da diferenciação, da capacidade e da ação. O 37 simboliza a possibilidade de observar aquilo que se manifesta sem se confundir completamente com isso. A imagem cria um ponto de contato entre uma tradição espiritual indiana e o debate contemporâneo sobre sistemas cada vez mais poderosos.
A aproximação entre Brasil e Índia, nesse contexto, pode envolver não apenas investimentos e oportunidades comerciais, mas também uma discussão sobre o tipo de civilização tecnológica a ser construído. O debate atual costuma se concentrar em parâmetros, poder computacional, automação e desempenho das máquinas. A proposta associada à Aham37 acrescenta a dimensão da consciência.
A humanidade pode criar sistemas superiores em várias tarefas sem ter respondido plenamente ao que significa ser consciente. Por isso, a questão central não é apenas se uma máquina será mais inteligente do que uma pessoa, mas se o crescimento da inteligência será acompanhado por consciência, responsabilidade e propósito.
A inteligência artificial não necessariamente levará ao fim da humanidade. O risco apontado está também em uma sociedade fascinada pelo poder da inteligência e indiferente aos limites e aos objetivos que devem orientar esse poder.
