AI의 위험성과 인류의 미래
테이블 목차
- 소개
- 역학으로서 사회 유행
- 인공지능, 기여정치 및 인류의 미래
- 인공지능 무기 경쟁
- 중국의 인공지능 우위
- 경제적 민족주의
- 나라별 AI 챔피언 빌드의 위험성
- 나쁜 가치로의 잠금: 맞춤 중요성
- 맞춤에 대한 기술 도전과제
- 어떤 가치를 최적화해야 하는가?
- 대응 방안
- 대응 전략: 이야기 재설정
- 대응 전략: 맞춤 문제 해결
아이디어, 감정, 신념의 힘: 역학적 사회 유행
사회적 유행에서 창조적 사상, 감정, 신념은 미생물의 전염력만큼 강력한 영향력을 가집니다. Gustaf Le Bon이 말했듯이, 아이디어의 전염성은 놀라운 증가와 함께 발달합니다. 또한, 사회적 유행은 다른 그룹 간에 흥분을 일으키며 전개됩니다. 일부 이야기는 소멸하고 배경으로 사라지지만, 다른 이야기는 폭발적으로 성장하여 공공 논의에서 명확한 순간을 만날 때까지 커져갑니다. 이후 흥분은 사그러들거나 공공 논의에 붕괴가 일어날 수 있습니다.
인공지능, 기여정치 및 인류의 미래: 중국의 인공지능 우위
미래가 불확실하고 급격히 변화하는 상황에서는 인공지능 우위라는 이야기가 중요한 요소입니다. 통상적인 이야기는 자유주의 민주국가에서 가하는 자료수집 제약이 없는 새로운 중국의 인공지능 경제미화 능력입니다. 중국은 효율적인 자원조달을 제어하고 기술조직의 미래를 통제할 수 있는 능력을 가지고 있습니다. 인공지능은 더 많은 데이터를 필요로 합니다. 이는 세계를 대표하는 기술과 사회를 형상화할 수 있는 사람이 첫 번째 슈퍼 휴먼 또는 변혁 인공지능에 도달하는 대략적인 시간을 결정하는 데 도움이 됩니다. 그렇기 때문에 서양은 개인 정보 보호를 고수하는데, 이는 많은 사람들에게는 어려운 문제입니다. 왜냐하면 최초의 초인간 또는 변혁 인공지능을 선점하는 사람들은 기술과 사회를 자신의 이미지에 맞게 형상화할 수 있을 것이기 때문입니다.
한편, 중요한 부분은 군사에 대한 이야기입니다. 2020년 8월, 미국 국방고등연구계획청(DARPA)은 가상의 개인 조종 무기 시합을 개최했습니다. 이 시합에서는 인간 조종자와 AI 시스템이 참가했습니다. 이야기의 전개는 예상 가능합니다. 최고의 AI 시스템이 최고의 인간 조종자를 5-0으로 이겼습니다. 이 이야기에서 가장 흥미로운 부분은 이기기 위해 하이퍼 공격적 전술을 사용한 AI입니다. 이는 공격성이 우려스러운뿐만 아니라 실제로 군사 기술의 발전에 깊이 녹아있는 이야기입니다. 이는 본질적으로 인공지능 기술 개발에 충돌을 초래할 수 있습니다.
경제적 민족주의는 또 다른 중요한 테마입니다. 매주 금융 타임즈는 국경을 넘어서는 합병과 인수 및 선도적인 기술에 대한 투자의 다양성에 대한 이야기를 다룹니다. 지난 주에는 영국에 본사를 둔 반도체 거대기업 ARM이 미국 기술 기업 NVIDIA에 인수되는 사안을 다루었습니다. 이 주에는 암호화폐 분야에서 비슷한 이야기가 전개되고 있습니다. 다양한 플레이어와 기관의 차이는 있지만 이야기가 핵심적으로 유사하게 전개됩니다. 모든 나라는 자신의 인공지능 챔피언을 만들고 싶어합니다. 이러한 이야기를 받아들일 경우, 민족주의적인 가치와 인공지능을 보다 적극적으로 활용하고자 하는 의도라는 점에서 우려스러운 추정이 나옵니다.
나쁜 가치로의 잠금: 수행 중요성
악 값을 잠그는 것은 테크놀로지 관련 기관과 정부 모두에게 어렵습니다. 정부는 짧은 정치적 주기를 갖고 있으며 종종 공격적이되고 무의미한 외교 정책을 추구한 다음 국내 정치 기반을 안정화하기 위해 선전투쟁에 휘말릴 수 있습니다. 한편, 민간 부문에서도 다르지 않습니다. 이번에는 데이터를 즉시 필요로하는 경제적인 요구가 우선시되기 때문에 단기적인 인센티브가 있습니다. 이로 인해 정부와 민간 부문 모두에서 변화를 설계하는 과정에서 변형 모델을 개발하는 데에 휴식할 시간이 없기 때문에 변형 모델을 개발하는 과정에서 패배 또는 코너를 잘릴 수 있습니다.
이러한 문제를 해결하는 것은 근본적인 질문입니다. 어떻게 기술적으로 이러한 문제를 해결할 수 있을까요? 그리고 이러한 가치는 무엇이어야 하며, 특정 AI 시스템에서 누구의 가치가 가장 중요한가요? 이러한 질문은 명확한 답을 가지고 있지 않으며, 컴퓨터 과학, 도덕철학, 정치 이론 수업을 듣지 않아도 알 수 있을 정도로 근본적인 질문입니다. 그러나 우리는 이러한 분야에서 발생하는 근본적인 질문에 대한 답이 없다는 것을 인정해야 합니다. 그렇지만 우리는 이야기를 새롭게 구성하여 것들이 변경되고 대안 방식으로 후광 기술마다 새로운 이야기를 해나갈 수 있다고 믿습니다.
하이라이트
- 사회적 유행은 아이디어, 감정, 신념의 전염력과 같은 미생물의 힘을 가집니다.
- 중국의 인공지능 지도자로서의 위협은 미래의 기술과 사회를 형상화할 능력을 가지고 있습니다.
- 경제적 민족주의는 각 나라가 자신의 인공지능 챔피언을 구축하기를 원하며 이는 대담한 전략적 잠재력을 초래합니다.
- 나쁜 가치로의 잠금은 기술과 사회의 잠재력을 최적화하기 위해 기술 중심적 전략이 채택되는 한계를 보여줍니다.
FAQ
Q: 인공지능이 인류에 미치는 위험은 무엇인가요?
A: 인공지능이 완전히 자주적인 도구로 발전하면 인류에게 존재적 위협이 될 수 있습니다. 자율적인 드론이나 살기 없는 로봇과 같은 시나리오들은 실제로 존재하는 위험으로 꼽힙니다.
Q: 인공지능 개발에 대한 규제는 필요한가요?
A: 인공지능의 개발은 규제와 균형을 유지해야 합니다. 안전 및 윤리적 가치에 중점을 둔 규제 프레임워크를 갖추는 것이 필요합니다.
Q: 변혁적인 인공지능이 현실이 되면 어떤 잠재적 이점을 누릴 수 있을까요?
A: 변혁적인 인공지능은 다양한 산업 분야에서 혁신과 생산성 향상을 가져올 수 있습니다. 예를 들어 의료, 교통, 에너지 부문에서 큰 진전을 이룰 수 있습니다.
Q: 인공지능의 악용은 어떤 형태로 나타날 수 있을까요?
A: 인공지능의 악용은 데이터 사생활 침해, 편견과 차별을 강화하는데 나타날 수 있습니다. 또한, 사회적 불평등을 심화시키고 경제 및 정치적인 균형을 위협할 수 있습니다.