AI가 제기하는 실존적 위협

기술 업계 내부자들이 경고음을 울리고 있다. 

DADO RUVIC/REUTERS

가속화되고 있는 인공지능의 고도화는 AI가 자율적인 사이버 공격, 대규모 실업, 끊임없는 시장 혼란, 그리고 인간 관계의 대체 등 현실 세계에 실제 피해를 초래할 수 있다는 일련의 경고를 낳고 있다.

이번 주 앤트로픽의 한 연구원은 회사를 떠난다고 밝히며, 동료들에게 보낸 편지에서 AI를 비롯한 여러 위험으로 인해 “세계가 위험에 처해 있다”고 썼다. 오픈AI 내부에서는 일부 직원들이 회사의 성인물 출시 계획에 대해 우려를 표명했다. 또 다른 오픈AI 연구원은 회사가 광고를 도입하려는 계획과, 그로 인해 사용자를 조작하려는 막대한 유인이 생길 수 있다는 우려를 이유로 사직한다고 밝혔다.

인공지능은 내부자들의 심각한 경고를 촉발해 온 오랜 산업 목록에 합류하고 있다. 그러나 AI에 대한 경고는 다른 기술 혁명들에 비해 산업 발전 초기 단계에서 더 이른 시점에, 그리고 더 많은 규모로 나오고 있다.

이러한 긴박감의 일부는 AI 능력의 급속한 발전에서 비롯된 것으로 보이며, 이는 가장 노련한 연구자들과 개발자들조차 놀라게 했다.

“오늘 나는 마침내 AI가 제기하는 실존적 위협을 느끼게 되었다,” 오픈AI 직원 히우 팜은 수요일 X에 이렇게 썼다. “AI가 지나치게 뛰어나 모든 것을 뒤흔들게 된다면, 인간에게는 무엇이 남게 될까?”

[출처: 월스트리트 저널, 조지아 웰스 글, 샌프란시스코에 기반을 둔 기술 전문 기자]