디지털 시대, AI와 윤리를 고민하다

MIT가 디지털 시대의 도덕적 딜레마를 깊이 있게 탐구하기 위해 새로운 수업을 개설했다. 바로 '윤리적 컴퓨팅(Ethical Computing)' 수업이다. 이 수업은 인공지능(AI)과 철학을 결합해 기술 발전이 가져오는 윤리적 문제를 고민하도록 돕는다.

MIT의 윤리적 컴퓨팅 수업

• 브리징 철학과 AI: MIT에서 새로운 수업이 개설되었으며, 이 수업은 철학과 인공지능(AI)을 결합하여 컴퓨팅 윤리를 탐구하는 것을 목표로 한다.
• 수업 개요: 수업 6.C40/24.C40 (윤리적 컴퓨팅)에서는 학생들이 디지털 시대의 도덕적 딜레마를 다루게 된다.
• 교수진:
  • Armando Solar-Lezama: MIT의 컴퓨팅 석좌 교수로, 컴퓨터 보조 프로그래밍 그룹을 이끌고 있다.
  • Brad Skow: 철학의 라우렌스 S. 록펠러 교수로, 윤리적 문제에 대한 철학적 관점을 제공한다.
• 수업의 중요성: 이 수업은 학생들이 기술적 문제와 윤리적 문제를 동시에 고려하도록 하여, 기술과 철학의 융합을 통해 더 깊이 있는 사고를 할 수 있도록 돕는다.

수업의 목표와 내용

• 디지털 시대의 도덕적 딜레마: 학생들은 현대 기술이 가져오는 윤리적 문제를 탐구하며, AI의 도덕적 책임에 대해 논의한다.
• 수업의 첫 질문: Solar-Lezama 교수는

"How do we make sure that a machine does what we want, and only what we want?"라는 질문을 던지며, 이는 AI의 윤리적 사용에 대한 중요한 논의의 출발점이 된다.

• 역사적 맥락: 교수는 프로그래밍의 역사에 대해 설명하며, 1970년대의 Pygmalion 기계와 1990년대의 소프트웨어 개발 과정을 언급한다.
• 학생들의 반응: 학생들은 이러한 질문을 통해 기술 발전의 윤리적 측면을 깊이 있게 탐구하게 된다.

교수진과 수업 구조

• 교수진의 협력: Solar-Lezama 교수와 Skow 교수는 서로의 강의를 참관하고, 수업 내용을 조정하여 더 동적인 수업 환경을 만든다.
• 강의 방식:
  • 두 교수는 강의일을 번갈아 가며 진행하고, 각자의 전문성을 바탕으로 수업을 구성한다.
  • 토론 세션: 학생들은 철학 또는 컴퓨터 과학의 대학원생들과 함께 주제를 심도 있게 논의한다.
• 수업의 목표: 이 수업은 학생들이 단순히 올바른 행동을 배우는 것이 아니라, 복잡한 윤리적 질문에 대한 깊은 사고를 할 수 있도록 설계되었다.
• 학생들의 참여: 학생들은 수업에서 다루는 주제에 대해 활발히 질문하고 의견을 나누며, 비판적 사고 능력을 기른다.

AI와 윤리적 질문들

• AI의 존재론적 위험: 수업은 AI가 인류에 미치는 잠재적 위험에 대해 논의하며, 자유 의지와 결정의 과학을 탐구한다.
• 도덕적 책임: 학생들은 자율주행차와 같은 기술이 사람에게 미치는 영향을 고려하며, 도덕적 책임이 누구에게 있는지를 질문한다.
• 철학적 이론: 학생들은 공리주의 이론을 바탕으로, "가장 많은 사람에게 가장 큰 선을 가져오는 것이 도덕적으로 옳다"는 주장을 탐구한다.
• 수업의 심화: 이러한 논의는 학생들이 기술 발전에 대한 윤리적 관점을 형성하는 데 도움을 준다.

학생들의 경험과 반응

• 학생 Alek Westover: 그는 AI의 미래에 대한 논의가 중요하다고 느끼며, 이 수업을 통해 윤리적 사고를 발전시키고자 한다.
• 수업의 중요성: Westover는 AI가 인간의 직업을 대체할 경우, AI의 권리와 보상에 대한 질문을 제기한다.
• 철학적 질문

 "우리가 인간이 할 수 있는 모든 일을 할 수 있는 강력한 AI를 만든다면, 우리는 그들에게 급여를 지급해야 하는가?"라는 질문을 통해 윤리적 딜레마를 탐구한다.

• 미래의 도전: 학생들은 이러한 질문을 통해 직장에서의 윤리적 문제를 미리 준비할 수 있다.

인터넷과 사회적 영향

• 주제 탐구: 수업의 한 주제는 "인터넷이 세상을 파괴하고 있는가?"라는 질문을 다룬다.
• 학생 Caitlin Ogoe: 그녀는 기술에 대한 비판적 시각을 가지고 있으며, 이 수업을 통해 기술의 사회적 영향을 탐구하고자 한다.
• 개인적 경험: Ogoe는 가족의 기술 지원 역할을 하며, 기술이 사람들에게 미치는 영향을 깊이 이해하게 되었다.
• 윤리적 관점: 그녀는 기술이 개인의 삶에 미치는 영향을 고려하며, 공공 정책과 기술의 관계에 대한 관심을 가지고 있다.

AI의 편향성과 공정성

• COMPAS 소프트웨어: 수업에서는 COMPAS라는 AI 소프트웨어의 편향성에 대해 논의하며, 이 소프트웨어가 범죄자 재범 가능성을 예측하는 데 사용된다.
• 편향성 문제: 2018년 ProPublica 기사에 따르면, COMPAS는 흑인 피고인을 미래 범죄자로 잘못 지목할 가능성이 높았다.
• 공정성 이론: Skow 교수는 실질적 공정성과 절차적 공정성의 두 가지 이론을 소개하며, 학생들과 함께 COMPAS 시스템의 공정성을 평가한다.
• 비판적 논의: 학생들은 다양한 공정성 기준을 논의하며, COMPAS 시스템의 지속 여부에 대한 결론을 도출하기 위해 심도 있는 논의를 진행한다.

미래의 AI와 윤리적 사고

• AI의 존재론적 위험: Solar-Lezama 교수는 AI의 존재론적 위험에 대한 우려가 과장될 수 있다고 언급하며, 미디어 담론을 넘어서는 사고의 중요성을 강조한다.
• 비판적 사고의 중요성: 학생들은 수업을 통해 비판적 사고 능력을 기르고, 복잡한 윤리적 문제를 다루는 방법을 배운다.
• 토론의 가치: 교수들은 학생들이 다양한 관점을 이해하고, 윤리적 문제에 대한 깊은 사고를 할 수 있도록 돕는다.
• 미래의 도전: 이러한 수업은 학생들이 미래의 기술적 도전에 대해 준비할 수 있도록 하는 중요한 기회를 제공한다.