✅ AI가 인류를 멸종시킬 수준의 위협이 될 수 있다는 경고가 나왔어요.
✅ AI 시스템의 무기화가 가장 심각한 문제가 될 수 있어요.
✅ EU가 세계 최초로 AI 규제법을 마련했어요.

美 보고서의 섬뜩한 경고😱

지난 2월, 중국에서는 춘제 연휴에 인공지능(AI) 앵커가 저녁 메인 뉴스를 진행해 화제를 모았어요. 실제 남녀 앵커를 모델로 만든 AI 앵커가 뉴스 프로그램 전체를 진행한 건데요. 이렇게 AI 앵커만으로 뉴스를 진행한 것은 처음이라서 신기하고 재미있다는 반응도 있었죠! 

하지만 AI의 발전이 긍정적인 효과만 있는 건 아니에요. 미국에서 AI가 인류를 멸종시킬 수준의 💥위협이 될 수 있다는 보고서가 나왔거든요. 미국 CNN 방송에 따르면, AI 정책 조언 등을 제공하는 민간 업체 글래드스톤AI가 미국 국무부의 의뢰를 받아 발표한 보고서에서 “가장 발전한 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있으며, 미국 정부가 개입해야 한다”라고 경고했는데요. 이렇게 섬뜩한 경고가 나온 이유는 무엇일까요?

AI 발전이 인류에게 미칠 영향

보고서는 AI 시스템의 무기화가 가장 심각한 문제라고 지적했어요. 인간과 같거나 그 이상의 지능을 구현하는 범용 AI(AGI)가 무기화되면, 💣핵무기가 처음 도입됐을 때를 연상시킬 만큼 세계 안보를 불안정하게 만들 가능성이 있다는 것! 특히 인간이 AI 무기에 대한 통제력을 상실하는 게 가장 큰 위험 요소로 지목됐는데요. 이런 위협에 대응하기 위해 AI 감독 기관과 긴급 규제 안전장치를 만들고, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했다고.

EU, 세계 최초로 ‘AI 규제법’ 가결

지난 13일(현지 시각), 유럽연합(EU)에서 세계 최초로 AI를 규제하는 법안이 통과됐다는 소식이 전해졌어요. 최종안은 AI 활용 분야를 네 단계의 위험 등급으로 나눠 규제하는 내용을 담고 있는데요. 자율주행, 의료 장비 등 ‘고위험’ 등급으로 분류되는 분야에서는 🤖AI 기술을 사용할 때 반드시 사람이 감독해야 하며, 위험관리 시스템도 만들어야 하고요. 챗GPT와 같은 생성형 AI의 등장으로 AI 오남용 우려가 커지면서 고도의 지능을 갖춘 범용 AI(AGI)를 개발하는 기업은 EU 저작권법을 준수하고, AI의 학습 과정에 사용한 콘텐츠를 명시해야 한다는 내용도 추가됐어요.

또한 다양한 데이터를 모아 개인을 평가하는 ‘사회적 점수 평가'(social scoring·소셜 스코어링) 등 일부 AI 기술 활용은 원천 🚫금지되는데요. AI를 활용한 실시간 원격 생체인식 식별 시스템 사용도 사실상 금지되고요. 강간·테러와 같은 강력 범죄자 추적 등 예외적인 경우에는 법원의 사전 허가를 받아야만 일부 허용돼요. 이 밖에도 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했는데요. 법을 위반할 경우, 전 세계 매출의 1.5%에서 최대 7%까지 💰과징금이 부과될 수 있어요.

이번 법안은 다음 달 EU 27개국 장관들의 최종 승인을 거쳐 연말쯤부터 순차적으로 시행될 전망인데요. 일부 국가에서는 이런 규제가 AI 기업들의 경쟁력을 떨어뜨릴 수 있다고 우려하고 있어요. 하지만 EU에서 ‘AI 규제법’이 통과되면서, AI 규제를 놓고 고심하는 다른 나라에도 영향이 있을 것으로 보이네요!🙌