장관, AI 위험 관리 시스템 도입 촉구

천 교수는 인공지능이 주요 강대국 간의 새로운 전략적 전장이 되었다며, 안보 조치와 거버넌스를 강화하는 동시에 인공지능의 발전을 촉진해야 한다고 강조했다.

그의 발언은 최근 중국 사이버공간관리국이 발행하는 잡지에 실린 기사에 게재되었습니다. 해당 기사에서 천 교수는 인공지능(AI)을 새로운 기술 혁명과 산업 변혁의 원동력으로 묘사하며, AI가 사회 모든 영역에 빠르게 통합되어 세계 경제, 기술 혁신 및 사회 거버넌스를 재편하고 있다고 설명했습니다.

동시에 그는 인공지능의 급속한 발전이 가져오는 위험과 과제를 명확히 이해하고, 보안 유지를 위한 노력을 지속해야 한다고 강조했습니다.

첸은 인공지능이 정치 및 국가 안보뿐만 아니라 사이버 보안, 간첩 행위, 데이터 보호, 기술 개발, 사회 거버넌스 및 군사 문제에도 영향을 미치고 있다고 말했다.

첸에 따르면 6월 현재 중국에서 5억 명 이상이 AI 제품을 사용했으며, AI 제품은 빠르게 그리고 광범위하게 도입되고 있다.

그는 적대 세력과 악의적인 행위자들이 텍스트, 이미지, 오디오 및 비디오를 생성할 수 있는 생성형 AI 기술과 자동화된 온라인 계정을 이용하여 저비용으로 대규모로 정치적 루머와 유해 정보를 퍼뜨리고 갈등을 조장하고 있다고 말했습니다.

그는 "이는 중국의 정치적, 제도적, 이념적 안보에 직접적인 위협이 된다"고 말했다.

첸은 인공지능(AI)이 컴퓨터 시스템의 취약점을 찾아내고 악성 소프트웨어를 개발하는 것을 더 쉽고 빠르게 만들어준다고 말했다. 일부 국가와 기관은 이제 시스템 취약점을 식별하고 정교한 사이버 공격을 실행할 수 있게 되었는데, 이는 공격에 필요한 기술력과 비용을 낮추고 중국의 핵심 정보 인프라에 심각한 위협을 가할 수 있다.

그는 또한 인공지능을 이용한 정보 수집을 통해 민감한 데이터가 유출될 위험성에 대해서도 경고했다.

첸은 "해외 정보기관들이 지능형 웹 크롤러, 데이터 마이닝 및 프로파일링 기술을 활용하여 국가 핵심 데이터, 영업 비밀, 시민의 개인정보를 포함한 민감한 정보를 수집하고 있다"고 말했다.

그는 또한 일부 국내 사용자들이 데이터 보안에 대한 인식이 부족하여 외국산 AI 제품을 이용해 민감한 정보를 처리하고, 이로 인해 데이터가 해외로 유출되어 심각한 데이터 유출 사고가 발생하고 있다고 덧붙였다.

첸은 또한 일부 국가들이 국가 안보를 명목으로 첨단 기술 및 장비 접근에 제한을 두고 있는 점을 지적했습니다. 그는 이러한 조치들이 기술 혁신을 저해하고 글로벌 AI 산업 및 공급망에 추가적인 어려움을 야기하고 있다고 말했습니다.

한편, 인공지능의 급속한 발전이 기존 법률, 윤리 기준 및 관리 메커니즘을 앞지르고 있어 효과적인 규제가 더욱 어려워지고 있다고 천 교수는 말했다.

그는 또한 AI가 전쟁의 양상을 바꾸고 있으며, 알고리즘이 공격의 정확성과 효율성을 판단하는 데 점점 더 도움을 주고 잠재적으로 전투 결과에 영향을 미칠 수 있다고 덧붙였다.

첸은 이러한 과제를 해결하기 위해 정부 부처 간의 긴밀한 협력과 더욱 강력한 보안 검토를 촉구하며, 인공지능 보안에 대한 통합적인 접근 방식이 필요하다고 강조했습니다.

그는 또한 위험 감시를 강화하고 조기 경보를 제공하기 위해 AI 보안 감독 플랫폼을 구축하고, AI 개발 동향과 같은 주요 문제에 대한 연구를 더욱 확대할 것을 촉구했습니다.

또한 첸은 컴퓨팅 칩과 소프트웨어를 포함하여 AI를 뒷받침하는 기본 원리와 핵심 기술에 대한 더 심층적인 연구를 권고했으며, AI 연구, 개발, 응용 및 감독을 포괄하는 구체적인 법률 및 규정의 도입을 신속하게 추진할 것을 촉구했습니다.

그는 "인공지능 보안을 강화하는 동시에 패권주의와 기술 장벽에 단호히 반대하며, 공정하고 개방적인 국제 인공지능 규칙 체계를 구축하고, 기술 교류와 성과 공유를 촉진하며, 포용적이고 균형 잡힌 발전을 추구하여 인공지능이 사람과 세계에 더 큰 이익을 가져다줄 수 있도록 이끌어 나가겠다"고 말했다.