구글·오픈AI 등 AI기업, 생성 콘텐츠에 워터마크 넣기로
Photo Credit: Unsplash
알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등 7개 주요 인공지능(AI) 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 했다.
이들은 AI를 활용한 사기나 속임수 등을 차단하기 위해 이런 조치를 자발적으로 취하기로 약속했다고 백악관이 오늘(21일) 밝혔다.
이들 기업은 AI 시스템의 기능, 한계, 적절한 사용 영역 등을 공개하고 유해한 편견, 차별을 방지하고 개인정보를 보호하는 것을 포함해 AI의 사회적 리스크에 대한 우선적 연구를 약속했다.
또 AI 시스템을 출시하기 전에 내부는 물론 외부 안전 테스트를 실시하고 AI 위험 관리에 관한 정보를 업계 및 정부, 시민 사회, 학계 등과 공유하기로 했다.
AI 기업의 이번 조치는 오픈AI가 챗GPT를 출시한 것과 맞물려 AI 활용에 대한 우려가 미국 안팎에서 커지는 것에 대한 대응 차원이다.
특히 내년(2024년) 11월 대선 때 딥페이크 등 AI 기술을 활용한 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 전망도 나온 상태다.
실제 지난 5월 공화당 전국위원회(RNC)는 AI가 생성한 이미지를 활용해 재선 도전을 선언한 조 바이든 대통령을 공격했으며 도널드 트럼프 전 대통령이 체포되는 가짜 AI 사진이 인터넷상에 돌기도 했다.
이런 이유로 연방 상원에서는 AI 규제와 활용 등에 대한 포괄적 입법 패키지를 만들기 위해 전체 의원을 대상으로 하는 브리핑을 진행하고 있다.
백악관은 보도자료에서 "새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다"면서 "AI의 잠재력을 최대한 활용하고 혁신이 미국인의 권리와 안전을 희생시키지 않도록 하기 위해 바이든 정부는 업체들이 최고 수준의 표준을 유지할 것을 권고하고 있다"고 말했다.
이어 한국을 비롯해 20개 국가의 이름을 열거한 뒤 "바이든 정부는 동맹 및 파트너 국가와 협력해 AI의 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 만들 것"이라고 말했다.
조 바이든 대통령은 백악관에서 이들 7개 업체와 만나 회의를 진행하기 전 "우리는 지난 50년 동안 본 것보다 앞으로 수년에서 10년 사이에 더 큰 기술 변화를 목격할 것"이라면서 "새로운 기술이 민주주의와 가치에 대해 초래할 수 있는 위협에 대해 명확하게 보고 경계를 해야 한다"고 말했다.
이어 "인공지능은 전 세계 사람들의 삶을 변화시킬 수 있다"면서 "여기에 있는 기업들은 책임감 있고 안전한 혁신을 통해 미국인의 신뢰를 얻는 데 중요한 역할을 할 것"이라고 밝혔다.
또 "기업들은 안전, 보안, 신뢰라는 세 가지 원칙을 통해 책임있는 혁신을 약속했다"면서 "이런 약속은 진전이지만 우리가 해야 할 일은 더 많다. 리스크 관리를 통해 AI의 가능성을 실현하기 위해서는 새로운 법규와 감독이 필요하다"고 강조했다.
그러면서 "나는 미국이 책임있는 혁신을 주도할 수 있도록 돕는 행정 조치를 취할 것이며 적절한 법안과 규제를 위해 양당과 협력할 것"이라고 말했다.