AI와 윤리

1. AI 학습 데이터와 개인정보

대형 언어모델이나 이미지 생성 AI는 인터넷에 공개된 방대한 텍스트와 이미지를 학습해 만들어집니다. 그런데 이 학습 데이터 안에는 개인의 SNS 게시물, 얼굴 사진, 블로그 글처럼 당사자가 AI 학습에 쓰일 것이라 예상하지 못한 개인정보가 포함되는 경우가 많습니다. 이 때문에 유럽 각국의 개인정보 감독기구는 AI 기업들의 데이터 수집 관행에 대해 조사와 시정 명령을 내린 바 있으며, 화가나 작가 등 창작자들 사이에서는 저작물이 동의 없이 AI 학습에 사용된 데 대한 저작권 분쟁도 이어지고 있습니다.

2. 안면인식 기술: 편리함과 감시 사이

안면인식(facial recognition) 기술은 공항 출입국 심사나 스마트폰 잠금 해제처럼 편리한 용도로 쓰이지만, 동시에 대중을 상대로 한 대규모 감시 수단이 될 수 있다는 우려도 큽니다. 미국의 스타트업 클리어뷰 AI(Clearview AI)는 SNS 등에서 수십억 장의 얼굴 사진을 동의 없이 수집해 안면인식 데이터베이스를 구축하고 이를 법 집행기관에 판매한 사실이 드러나면서 여러 국가로부터 거액의 과징금과 사용 중단 명령을 받았습니다. 이 사건은 공개된 정보라 하더라도 그것을 대규모로 수집·재가공하는 것이 새로운 프라이버시 침해가 될 수 있음을 보여준 대표적 사례로 꼽힙니다.

"공개된 사진 한 장은 큰 위협이 아니다. 그러나 수십억 장을 모아 만든 얼굴 데이터베이스는 완전히 다른 차원의 힘을 갖는다." — 안면인식 논쟁에서 제기되는 핵심 우려

3. 알고리즘 편향: 데이터가 만드는 차별

AI는 학습한 데이터의 편향을 그대로, 때로는 더 증폭시켜 반영합니다. 미국 일부 사법 시스템에서 재범 위험을 예측하는 데 사용된 알고리즘(COMPAS)은 흑인 피고인의 재범 위험을 실제보다 높게 예측하는 경향이 있다는 연구 결과가 발표되어 논란이 되었습니다. 또한 한 글로벌 기업이 시험적으로 도입했던 채용 AI는 과거 남성 위주로 채용된 이력서 데이터를 학습한 탓에 여성 지원자에게 불리한 평가를 내리는 것으로 드러나 결국 폐기된 사례도 있습니다. 이러한 사례들은 알고리즘이 "객관적"이라는 인식과 달리, 학습 데이터에 내재된 사회적 편향을 그대로 재생산할 수 있음을 보여줍니다.

위험 등급 (EU AI Act 기준)	정의	예시
허용 불가 위험	기본권을 심각하게 침해하여 원칙적 금지	공공장소 실시간 대규모 안면인식(예외적 허용)
고위험	안전·기본권에 중대한 영향, 엄격한 의무 부과	채용 AI, 신용 평가 AI, 의료 진단 보조 AI
제한적 위험	투명성 의무(AI임을 고지)	챗봇, 딥페이크 콘텐츠
최소 위험	규제 대상 아님	스팸 필터, AI 추천 게임

4. EU AI Act: 위험 기반 규제의 등장

유럽연합은 2024년 세계 최초의 포괄적 AI 규제인 AI Act를 채택했습니다. 이 법은 모든 AI를 동일하게 규제하는 대신, 사람에게 미치는 위험 수준에 따라 단계적으로 규제 강도를 달리하는 위험 기반 접근(risk-based approach)을 택했습니다. 채용, 신용평가, 의료처럼 사람의 삶에 큰 영향을 주는 고위험 AI에는 데이터 품질 검증, 인간 감독 체계 마련 등 엄격한 의무를 부과하고, 단순 스팸 필터 같은 최소 위험 AI에는 별도 규제를 두지 않는 식입니다. AI로 만든 가짜 영상·음성인 딥페이크(deepfake) 콘텐츠에는 별도로 "AI로 생성되었다"는 사실을 이용자에게 고지하도록 하는 투명성 의무도 규정하고 있습니다.

5. 기술 발전과 윤리 사이의 균형

AI 기술은 의료 진단, 재해 예측, 교육 격차 해소 등 다양한 영역에서 큰 잠재력을 갖고 있습니다. 그러나 그 잠재력이 개인정보 침해나 차별 확대로 이어지지 않으려면, 데이터 수집 단계부터의 투명성, 편향 검증 절차, 인간의 최종 개입 장치가 함께 마련되어야 합니다. AI가 대출 거절이나 채용 탈락 같은 자동화된 판단을 내렸을 때 그 근거를 설명받을 권리, 이른바 설명을 요구할 권리(right to explanation) 역시 여러 규제에서 점차 강조되고 있습니다. 다음 강에서는 이러한 데이터가 국경을 넘나들 때 발생하는 데이터 주권 문제를 살펴보겠습니다.

관련 검색어  ·  안면인식, 알고리즘 편향, EU AI Act, 클리어뷰 AI