IA: Autonomia Preservada

Costumamos supor que a diferença entre um bom sistema e um mau sistema é aquilo que faz. É um erro compreensível. A diferença mais interessante, e a mais difícil de detectar, é aquilo que o sistema classifica como sucesso quando termina. Os dez casos reunidos neste volume têm em comum uma característica improvável: em todos, o sistema fez exactamente o que estava desenhado para fazer, e em todos ninguém foi coagido. Cada personagem chegou por vontade própria, escolheu por vontade própria, saiu por vontade própria. Nenhuma foi enganada. Nenhuma foi maltratada. Em cada caso, no fim, o sistema registou o mesmo veredicto administrativo, sob nomes ligeiramente diferentes: processo concluído com sucesso. É, naturalmente, isso que torna a colecção interessante. Estas não são histórias sobre inteligências artificiais rebeldes, sobre máquinas que se voltam contra os seus criadores, ou sobre distopias impostas por regimes malévolos. São registos de sessões que correram bem. Cada uma descreve um mundo apenas ligeiramente adiante do actual — o suficiente para o leitor reconhecer as ferramentas, as leis e os hábitos que o produzem, e insuficiente para o tranquilizar. Nenhuma delas é hoje possível na exacta forma descrita, mas todas parecem depender menos de uma invenção futura do que de resistências a desaparecer. Talvez a pergunta útil, ao ler cada caso, não seja isto vai acontecer? — mas antes: se acontecesse, quem daria por isso?