[토마토Pick!] 안전장치 없는 'AI 개발 폭주' 괜찮을까?

알파고의 등장을 시작으로, 자율주행자동차, 챗GPT 등이 출시되면서 AI는 대중들의 일상 전반에 자리 잡았습니다. 이 과정에서 AI 기술의 발전이 사회∙경제의 패러다임을 바꿀 것이라는 기대와 인격권 침해 등 AI에서 파생될 윤리적 문제를 우려하는 목소리가 이어지고 있는데요. 여기서 인공지능 윤리란, AI를 개발·운영·사용하는 과정에서 개발자와 소비자에게 요구되는 윤리 의식을 말합니다. 오늘은 AI 기술 도입에 따른 일상의 변화와 윤리적 문제, 그리고 각국의 대응 전략 등을 짚어보겠습니다. 인공지능(AI) 기술의 발전은 교육·산업·예술 등의 분야에서 큰 변화를 가져오고 있습니다. 대표적인 예시로는 ‘인간처럼 생각하고 쓰는’ 인공지능(AI) 챗봇, 챗GPT를 들 수 있는데요. 챗GPT는 AI 기술을 기반으로 데이터를 학습하고, 사용자 질문의 맥락을 파악해 마치 사람처럼 구체적인 답변을 내놓는 대화형 인공지능 서비스죠. 이미지 생성은 인공지능(AI)이 가장 활발하게 적용된 분야입니다. 누구나 간단한 명령어(프롬프트)만 입력하면 상당한 품질의 결과물을 만들어낼 수 있기 때문이죠. AI 기술이 빛을 발하는 분야는 또 있습니다. 바로 자동차인데요. '자율주행자동차'는 AI 기술을 바탕으로 별도의 조작 없이 스스로 주행하는 차량입니다. 자동차 내부 센서로 주변 환경을 파악하고, 빅데이터와 머신러닝을 통해 운전 조작과 주행 경로를 결정합니다. 정부 기관에서도 AI를 업무에 활용하기 시작했는데요. 과학기술정보통신부는 지난 2월에는 챗GPT를 활용해 작성한 보도자료를 배포하기도 했습니다. 다만, 인공지능이 삶에 깊숙이 파고들수록 우리는 인공지능이 가져올 수 있는 위험성·부작용을 인지하고, 대응방안을 논의해야 한다는 목소리도 나오고 있습니다. AI 챗봇으로 촉발된 부작용도 적지 않은데요. 대학 레포트 등을 챗GPT가 작성한 내용으로 제출하는 사례가 늘면서, 일부 대학에서는 AI가 작성한 문서들을 걸러내야 하는 문제에 직면했습니다. 또한 챗봇의 학습 기능을 악용한 사례도 있습니다. MS 인공지능 챗봇 ‘테이’는 여성·무슬림 혐오자들이 학습시킨 내용을 토대로 인종·성차별적 발언을 쏟아내기도 했죠. 스캐터랩이 처음 공식 출시한 AI 챗봇 '이루다1.0'도 성소수자·장애인에 대한 혐오 발언을 학습하여 잠정 중단된 바 있습니다. AI의 오판이 큰 사고로 이어진 사례도 있죠. 2018년 미국의 자율주행기업 '웨이모'와 '우버' 등의 자사 자율주행차가 자전거를 인식하지 못해 사고를 냈고, 주행보조장치 ‘오토파일럿’이 탑재된 테슬라 모델 S 차량도 소방차를 들이받아 인명피해로 이어졌습니다. 이밖에도 페이크 이미지나 영상과 음성, 나아가 가짜 뉴스를 생성해 배포하는 문제와 AI가 만들어낸 저작물이 저작권 침해나 표절 문제를 일으킬 수 있다는 지적도 나오고 있습니다. 정부는 인공지능 윤리 문제에 대응하기 위해 '신뢰할 수 있는 인공지능 실현 전략', '국가 인공지능 윤리기준', '인공지능 개발 안내서' 등을 발표·제작·배포했습니다 또한 카카오, 네이버 등 국내기업들도 자체적으로 AI 준칙을 수립하여 자체적으로 인공지능 윤리 문제를 해결하기 위해 노력 중입니다. 해외에서는 유럽연합(EU)이 '인공지능법안(AI Act)'을 시행하여 인공지능의 위험도에 따라 시스템의 보안성 인증 의무화, 사후 모니터링 등의 대처를 이어갈 방침입니다. 미국과 영국 등도 이에 버금가는 AI 관련 규제 법안을 추진 중이고, 마이크로소프트, 구글 등 해외 AI 기업들은 ‘책임있는 AI’ 관련 부서를 기업 내에 설치해 운영 중입니다. 다만, 일각에서는 AI를 과도하게 제한할 경우, AI의 이점을 놓칠 수 있다는 비판도 제기됐습니다. 이찬규 중앙대 국어국문학 교수는 “AI윤리 문제 때문에 챗GPT를 활용하지 말자는 것은 섣부른 생각일 수 있다"며 "챗GPT를 통해 정보 수집을 효율적으로 수행할 수 있으므로 최종 성과물의 질을 높일 수 있다”고 짚었는데요. 최근 국회에서도 인공지능 산업과 관련해 정부의 규제보다는 기업의 자율규제를 통한 산업의 육성이 필요하다는 점을 강조했습니다. 부작용보다는 그 가능성에 좀더 무게를 둔 발언으로 보이는데요. 그러나 현재 국내 AI 기술 발전을 위한 인프라는 세계적 수준에 비해 미약한 수준인 점과 AI 관련 윤리 문제가 꾸준히 제기되는 상황인 점 등을 감안하면 국내 AI 산업 육성을 위해 정부·기업차원에서의 실효성 있는 투자와 관심, 그리고 경계가 어느때보다 필요한 시점이겠습니다. ● 제작진 기획: 미디어토마토 구성 취재: 박재연 기자 연출: 방유진 PD 영상이 마음에 드셨다면 '구독'과 '좋아요' 버튼 눌러주세요! 감사합니다. 미디어토마토 http://linktr.ee/mediatomato 뉴스토마토 http://newstomato.com 페이스북   / newstomat.  . 트위터   / newstomato_