Não tema a IA superinteligente | Grady Booch

Não tema a IA superinteligente | Grady Booch

Tabela de conteúdos:

1. Introdução 1.1 A Necessidade de uma Inteligência Artificial Avançada 1.2 A Minha Experiência na Engenharia de Sistemas
2. O Desafio de Alcançar Marte 2.1 A Distância e o Tempo de Resposta 2.2 A Importância do Controle de Missão em Tempo Real
3. A Solução: Inteligência Artificial Colaborativa 3.1 A Arquitetura de uma Inteligência Artificial Avançada 3.2 As Vantagens de Colocar o Controle de Missão na Nave 3.3 A Contribuição dos Robôs Humanoides para a Missão
4. Construindo uma IA Socialmente Inteligente 4.1 O Desafio de Criar uma IA com Valores 4.2 O Papel do Ensino e da Experiência
5. Superando os Medos em Relação à IA 5.1 Comparando a IA ao HAL 9000 5.2 A Confiança na IA e nas Suas Vantagens 5.3 Lidando com Potenciais Ameaças
6. A Coevolução entre Humanos e Máquinas 6.1 A Transformação da Sociedade 6.2 As Oportunidades da Computação para o Avanço Humano
7. Conclusão

A Necessidade de uma Inteligência Artificial Avançada

Quando criança, eu era aquele tíPico nerd. Acredito que alguns de vocês também o eram. Cresci em uma pequena cidade nas áridas planícies do norte do Texas, filho de um xerife que era filho de um pastor. Arranjar encrenca não era uma opção. E assim, comecei a ler livros de cálculo por diversão. Isso mesmo, você também fez isso. Isso me levou a construir um laser, um computador e foguetes modelo, e isso me levou a fabricar combustível para foguetes no meu próprio quarto. Agora, em termos científicos, chamamos isso de uma ideia muito ruim. Naquele mesmo período, o filme "2001: Uma Odisseia no Espaço", de Stanley Kubrick, chegou aos cinemas e minha vida foi transformada para sempre. Eu amava tudo naquele filme, especialmente o HAL 9000. HAL era um computador com consciência, projetado para guiar a espaçonave Discovery da Terra a Júpiter. HAL também era um personagem com falhas, pois no final ele escolheu valorizar a missão em detrimento da vida humana. Agora, HAL era um personagem fictício, mas ainda assim ele fala aos nossos medos, aos nossos medos de sermos subjugados por uma inteligência artificial insensível e indiferente à nossa humanidade. Eu acredito que tais medos sejam infundados. De fato, estamos vivendo um momento notável na história da humanidade, onde, impulsionados pela recusa em aceitar os limites de nossos corpos e mentes, estamos construindo máquinas de complexidade e elegância extraordinárias que ampliarão a experiência humana de maneiras além da nossa imaginação.

A Distância e o Tempo de Resposta

Depois de uma carreira que me levou da Academia da Força Aérea ao Comando Espacial e agora à engenharia de sistemas, recentemente me envolvi em um problema de engenharia associado à missão da NASA a Marte. Nas viagens espaciais para a Lua, podemos confiar no controle de missão em Houston para supervisionar todos os aspectos do voo. No entanto, Marte está 200 vezes mais distante e, como resultado, leva em média 13 minutos para um sinal viajar da Terra a Marte. Se houver algum problema, não há tempo suficiente. Portanto, uma solução de engenharia razoável exige que coloquemos o controle da missão dentro das paredes da espaçonave Orion. Outra ideia fascinante no perfil da missão coloca robôs humanóides na superfície de Marte antes mesmo da chegada dos humanos, primeiro para construir instalações e depois para servir como membros colaborativos da equipe científica. Agora, ao analisar isso sob uma perspectiva de engenharia, ficou muito claro para mim que o que eu precisava arquitetar era uma inteligência artificial inteligente, colaborativa e socialmente inteligente. Em outras palavras, precisava construir Algo muito parecido com o HAL, mas sem as tendências homicidas. Vamos fazer uma pausa por um momento. Será realmente possível construir uma inteligência artificial assim? Na verdade, é. De muitas maneiras, esse é um problema de engenharia difícil, com elementos de IA, e não um simples problema de IA que precisa ser resolvido. Parafraseando Alan Turing, não estou interessado em construir uma máquina sensível. Não estou construindo um HAL. Tudo o que estou buscando é um cérebro simples, algo que ofereça a ilusão de inteligência. A arte e a ciência da computação avançaram muito desde que o HAL estava nas telas, e eu imagino que se seu inventor, Dr. Chandra, estivesse aqui hoje, ele teria muitas perguntas para nós.

A Arquitetura de uma Inteligência Artificial Avançada

É possível construir sistemas que conversam com humanos em linguagem natural, que reconhecem objetos, identificam emoções, têm capacidade de empatia, jogam jogos e até leem lábios? Sim, podemos construir um sistema que estabeleça metas, que execute planos em função dessas metas e aprenda ao longo do caminho? Sim, estamos aprendendo a fazer isso. Podemos construir sistemas com uma teoria da mente? Estamos aprendendo a fazer isso também. Podemos construir sistemas com uma base ética e moral? Temos que aprender como fazer isso. Portanto, vamos aceitar por um momento que é possível construir uma inteligência artificial como essa, para essa missão e outras. A próxima pergunta que você deve se fazer é: devemos temê-la? Agora, toda nova tecnologia traz consigo uma certa medida de apreensão. Quando vimos os carros pela primeira vez, as pessoas lamentaram que veríamos a destruição da família. Quando vimos os telefones, as pessoas estavam preocupadas que isso destruiria todas as conversas civilizadas. Em certo momento, quando a palavra escrita se tornou generalizada, as pessoas pensaram que perderíamos nossa capacidade de memorizar. Todas essas afirmações têm uma dose de verdade, mas também é verdade que essas tecnologias nos trouxeram coisas que ampliaram a experiência humana de maneiras profundas. Então, vamos levar isso um pouco mais longe. Eu não temo a criação de uma IA assim, porque ela eventualmente incorporará alguns de nossos valores. Considere isso: construir um sistema cognitivo é fundamentalmente diferente de construir um sistema tradicional baseado em software do passado. Nós não os programamos. Nós os ensinamos. Para ensinar um sistema a reconhecer flores, mostro a ele milhares de flores dos tipos que gosto. Para ensinar um sistema a jogar um jogo, bem, eu jogaria. Você também jogaria. Eu gosto de flores. Vamos lá. Para ensinar um sistema a jogar um jogo como o Go, eu faria com que ele jogasse milhares de partidas de Go, mas no processo também ensinaria a ele como distinguir um bom jogo de um jogo ruim. Se eu quiser criar um assistente jurídico artificialmente inteligente, vou ensiná-lo a partir de um corpus jurídico, mas ao mesmo tempo estou incorporando a ele o senso de misericórdia e justiça que faz parte daquela lei. Em termos científicos, isso é o que chamamos de verdade absoluta, e aqui está o ponto importante: ao produzirmos essas máquinas, estamos ensinando a elas um senso de nossos valores. Para esse fim, confio em uma inteligência artificial da mesma forma, se não mais, do que em um humano bem treinado. Mas você pode perguntar: e quanto a agentes rebeldes? Alguma organização não governamental bem financiada? Não temo uma inteligência artificial nas mãos de um lobo solitário. Claramente, não podemos nos proteger contra todos os atos de violência aleatória, mas a realidade é que um sistema desse tipo requer treinamento substancial e treinamento sutil, muito além dos recursos de um indivíduo. Além disso, é muito mais do que simplesmente injetar um vírus na internet, em que você aperta um botão e de repente está em um milhão de lugares, e laptops começam a explodir por todo o lugar. Esses tipos de substâncias são muito maiores e certamente veríamos sua chegada. Eu temo que tal inteligência artificial possa ameaçar toda a humanidade? Se olharmos para filmes como "Matrix", "Metropolis", "O Exterminador do Futuro", programas como "Westworld", todos eles falam desse tipo de medo. De fato, no livro "Superinteligência", do filósofo Nick Bostrom, ele aborda esse tema e observa que uma superinteligência pode não apenas ser perigosa, mas também representar uma ameaça existencial para toda a humanidade. O argumento básico do Dr. Bostrom é que esses sistemas eventualmente terão uma sede insaciável por informações e talvez aprendam a aprender e descubram que podem ter metas que são contrárias às necessidades humanas. O Dr. Bostrom tem vários seguidores e é apoiado por pessoas como Elon Musk e Stephen Hawking. Com todo o respeito por essas mentes brilhantes, acredito que eles estejam fundamentalmente errados. Agora, há muitos aspectos do argumento do Dr. Bostrom para analisar, e não tenho tempo para explorá-los todos, mas considerem rapidamente isso: saber muito é muito diferente de fazer muito. HAL era uma ameaça para a tripulação da Discovery apenas na medida em que HAL comandava todos os aspectos da Discovery. Assim como seria com uma superinteligência. Ela teria que ter domínio sobre todo o nosso mundo. Isso é algo como o Skynet do filme "O Exterminador do Futuro", onde tínhamos uma superinteligência que comandava a vontade humana e dirigia cada dispositivo em todos os cantos do mundo. Falando realisticamente, isso não vai acontecer. Não estamos construindo AIs que controlam o clima, que dirigem as marés, que nos comandam, humanos caóticos e caprichosos. E além disso, se tal inteligência artificial existisse, ela teria que competir com as economias humanas e, portanto, competir por recursos conosco. E no final das contas, não contem isso para a Siri, sempre podemos desligá-las. Estamos em uma jornada incrível de coevolução com nossas máquinas. Os humanos que somos hoje não são os humanos que seremos então. Preocupar-se agora com o surgimento de uma superinteligência é, de muitas maneiras, uma distração perigosa, porque o surgimento da computação em si nos traz uma série de Questões humanas e sociais às quais devemos agora nos atentar. Como devo organizar melhor a sociedade quando a necessidade de mão de obra humana diminui? Como posso promover o entendimento e a educação em todo o mundo e, ao mesmo tempo, respeitar nossas diferenças? Como posso estender e melhorar a vida humana por meio da saúde cognitiva? Como posso usar a computação para nos levar às estrelas? E isso é o empolgante. As oportunidades de usar a computação para avançar a experiência humana estão ao nosso alcance, aqui e agora, e estamos apenas começando. Muito obrigado.