Nvidia의 CEO Jensen Huang은 인공지능이 인류에게 멸종 수준의 사건을 초래할 수 있다는 공포를 강력히 일축했다. 기술의 미래에 대해 언급하며, Huang은 2030년까지 AI가 세상의 종말을 일으킬 확률이 "0%"라고 밝혔다. 그는 AI가 향후 10년 내에 "초인적"이 되어 인류를 죽일 수 있다는 예측은 "과학적 근거가 없다"며 "무책임하다"고 주장했다.
AI가 인류의 생존에 실존적 위협이 되는지에 대한 논쟁은 기술 분야의 여러 집단 사이에 깊은 분열을 야기했다. 한쪽에서는 일부 연구자들이 통제되지 않는 AI 시스템이 대량 학살을 초래할 가능성에 대해 경고를 제기했다. 이러한 경고는 흔히 고도로 발달한 기계가 결국 인류의 생존과 충돌하는 목표를 추구할 수 있다는 생각에 초점을 맞춘다. 그러나 OpenAI, Meta, DeepMind와 같은 주요 기업의 많은 산업 리더와 직원들은 이러한 종말론적 시나리오에 대해 회의적인 태도를 보여왔다. 그들은 AI가 인류의 완전한 멸종으로 이어질 것이라는 생각은 현재의 증거로 뒷받침되지 않는다고 주장한다.
Meta의 전직 데이터 과학자는 AI 모델이 필연적으로 인류의 죽음을 초래하는 목표를 추구할 것이라는 실질적인 증거가 없다는 점을 언급하며 이러한 회의적인 견해를 지지했다. 이러한 관점은 인류의 갑작스럽고 재앙적인 종말에 대한 공포가 과장되었을 수 있음을 시사한다. Sampura Research의 설립자이자 전 DeepMind 직원인 Rishub Jain은 AI 분야의 많은 사람들 사이에서 이러한 공포에 대한 어조가 "약간 농담조"였다고 관찰했다. 이는 기술을 직접 다루는 많은 전문가들이 일부 공인들만큼 멸종 경고를 진지하게 받아들이지 않는다는 것을 보여준다.
업계 내부의 이러한 회의론은 이론적인 공포와 현재 기술 발전의 실질적인 현실 사이의 커지는 괴리를 부각시킨다. 일부 대중적 담론이 기계가 스스로 의도를 갖게 될 가능성에 집중하는 반면, 분야의 최전선에서 일하는 많은 전문가는 그러한 시나리오를 추측에 불과하다고 여긴다. The Guardian의 보도에 따르면, Jensen Huang의 이러한 공포 거부는 그러한 극단적인 예측들이 필요한 과학적 토대가 부족하다는 믿음에 뿌리를 두고 있다. Huang은 이러한 주장들을 무책임하다고 규정함으로써, 가상의 멸종에 집중하는 것이 잘못된 방향일 수 있음을 시사한다.
이러한 이견은 기술 산업 내의 상당한 긴장감을 보여준다. 일부 목소리는 문명을 파괴할 수 있는 "초인적" AI의 장기적 가능성에 집중하는 반면, 다른 이들은 이러한 주장이 더 시급한 문제들로부터 주의를 분산시킨다고 믿는다. 전문가들은 논의가 더 세밀해져야 한다고 제안한다. 그들은 이론적인 세상의 종말에만 집중하는 대신, 업계가 "실제적인 단기적 해악"에 집중해야 한다고 주장한다. 초점을 전환함으로써 연구자들은 오늘날의 기술에서 이미 나타나고 있는 실제 위험을 완화하기를 희망한다.
이러한 단기적 위험에는 사이버 보안 위협과 윤리적 문제와 같은 심각한 사안들이 포함된다. 예를 들어, 전문가들은 해커들이 AI 가드레일을 우회하는 방법을 찾아내어 기술 오용으로 이어질 수 있는 위험을 지적해 왔다. 또한 군사적 활용에 있어 AI의 윤리적 사용에 대한 상당한 우려도 존재한다. 이러한 실질적인 문제들을 해결하는 것이 공상과학 스타일의 시나리오를 걱정하는 것보다 AI 발전을 관리하는 더 효과적인 방법으로 간주된다. 이러한 특정 분야에 집중함으로써 개발자들은 AI가 일상생활에 더 보편화됨에 따라 발생하는 부정적인 영향을 완화하기 위해 노력할 수 있다.
이러한 즉각적인 취약성을 해결해야 할 필요성은 많은 연구자들에게 핵심적인 주제다. 전문가들은 갑작스러운 지구적 재앙에 대비하기보다는 기존 시스템을 보호하는 데 우선순위를 두어야 한다고 주장한다. 여기에는 해킹을 통한 AI 악용을 방지하고, 군사적 맥락에서의 이러한 도구 배포가 엄격한 윤리 지침을 따르도록 보장하는 것이 포함된다. 이러한 실질적인 문제들에 집중함으로써 업계는 기술이 현재의 불안정이나 피해를 초래하는 방식으로 사용되는 것을 방지하고자 한다.
이 논쟁은 이러한 강력한 도구들을 개발하는 이들의 책임 문제와도 맞닿아 있다. Jensen Huang의 발언은 인류 멸종에 대한 극단적인 주장을 하는 것이 과학적 근거가 부족하기 때문에 무책임하다는 점을 시사한다. 만약 업계가 상상 속의 종말 시나리오와 싸우는 데 모든 에너지를 소비한다면, 이미 나타나고 있는 현실 세계의 위험에 대비하는 데 실패할 수도 있다. 장기적인 실존적 공포와 즉각적인 실질적 위험 사이의 이러한 긴장은 인공지능의 미래에 있어 핵심적인 과제로 남아 있다.
AI 기술이 빠른 속도로 계속 발전함에 따라, 완전한 멸종을 두려워하는 이들과 실질적인 안전에 집중하는 이들 사이의 간극은 여전히 넓다. "종말론적" 경고가 계속해서 대중의 관심을 끄는 반면, Huang과 같은 산업 리더 및 다양한 연구자들은 더 현실적인 접근 방식을 촉구하고 있다. 그들은 가장 중요한 과제가 가상의 세상 종말에 대비하는 것이 아니라, 윤리적 문제와 보안 취약성과 같은 AI의 현실 세계적 결과를 관리하는 것이라고 믿는다.
궁극적으로, 논의는 위험에 대한 더 세밀한 이해를 향해 나아가고 있다. 이 분야의 많은 이들의 목표는 가까운 미래에 발생할 수 있는 해악을 완화할 방법을 찾는 것이다. 여기에는 사이버 보안 강화와 군사적 사용을 위한 윤리 지침 수립이 포함된다. 이러한 실질적인 문제들을 해결함으로써 기술 커뮤니티는 AI가 글로벌 불안정의 근원이 아닌, 안전하고 유익한 도구로 남을 수 있도록 보장하고자 한다. 기술이 진화함에 따라 "종말론자"와 회의론자 사이의 분열은 계속될 가능성이 높지만, 전문가들 사이에서는 실질적인 안전에 대한 집중이 점점 더 두드러지고 있다.
💡 알아두면 좋은 배경 지식
- Nvidia CEO Jensen Huang said predictions of an extinction-level event caused by AI are 'not grounded in science' [S1]
- Jensen Huang stated there is a '0% chance' that AI will cause the end of the world by 2030 [S1]
- Huang described claims that AI could become 'superhuman' and kill humanity within the decade as 'irresponsible' [S1]
- Some AI workers, including those from OpenAI, Meta, and DeepMind, expressed skepticism toward the idea of unchecked AI leading to mass death [S2]
- A former Meta data scientist noted there is no real evidence that AI models will inevitably pursue goals leading to human death [S2]
- Rishub Jain, founder of Sampura Research and former DeepMind employee, noted the tone among many in AI regarding these fears has been 'a little jokey' [S2]
- Experts agree on the need to address 'actual near-term harms' and mitigate risks like hacking AI guardrails and ethical concerns in military use [S2]
- === ALLOWED MEDIA OUTLETS (Writer may cite ONLY these) ===
- www.theguardian.com
- feeds.bbci.co.uk
- feeds.feedburner.com