윤리적 균형 찾기

1950년 영국 수학자인 Alan Turing은 기계가 언젠가는 인간과 비슷한 지능적인 행동을 할 수 있을 거라는 가설을 제시했습니다. 오늘날 인공 지능(AI)이 다양한 일상 생활에 보편화되면서 쇼핑과 같은 사소한 결정 부터, 생사를 가리는 중대사항까지 다양한 상황에서 인간의 판단을 대신하고 있습니다.

AI와 머신 러닝 기술이 윤리적으로 행동하도록 학습하는 것도 가능할까요? 그리고, AI에 윤리적 요인을 적용해야 한다면, 그 윤리는 누가 결정해야 할까요?

노스캐롤라이나 주립 대학에서 엔지니어링 기술 윤리학을 지도하고 있는 명예 교수이자 부교수인 Joe Herkert는 “윤리는 언제나 엔지니어링의 중요한 요인이었지만 기술이 발전하면서 더욱 복잡해졌다"라며, “기술이 과거와는 다른 방식으로 대중과 상호작용하기 때문이다.”라고 말했습니다.

엔지니어링은 인간에게 다양한 방식으로 영향을 미치며, 긍정적일 때가 많습니다. 예를 들어 자율주행차에는 사고의 발생률을 줄이고 심각성을 완화하기 위해 AI가 적용되고 있습니다.

하지만 엔지니어링 윤리가 항상 긍정적이거나 명확한 것은 아닙니다. 엔지니어가 출시를 앞당길 목적으로 공공의 안전을 저해하는 방법을 선택하거나, 혹은 이익을 위해 성과를 추구하라는 압박을 받을 때 윤리는 과연 어떤 역할을 해야 할까요? 예를 들어 석유 회사가 재생 불가능한 연료를 계속 생산하거나 암살을 위해 엔지니어링 드론을 사용하는 프로젝트라면 어떨까요? 엔지니어가 이러한 딜레마를 어떻게 인지하고 해결할 수 있을까요?

Herkert는 이러한 문제를 해결하기 위해서는 우선 엔지니어와 기업, 그리고 사회가 하나로 규합하여 윤리 의식을 고양하고 이해도를 높여야 한다고 주장했습니다. Herkert와 다른 교육자들은 수업 시간에 윤리에 대한 적용 범위를 넓혀 이 목표를 달성할 수 있는 고유의 위치에 있습니다.

Herkert는 “이의를 제기하는 엔지니어들도 있지만 여기에 귀를 기울이는 사람들은 많지 않다. 인공 지능, 나노 기술, 생체 공학 등 새로운 기술을 점점 더 많이 사용함에 따라 기술이 더욱 복잡해졌고, 예상치 못한 문제들이 쉽게 일어나고 있다. 또한 개발 속도가 너무 빨라서 규제 기관들이 따라잡기 어려울 정도다. 따라서 윤리가 그 어느 때보다 중요해졌다”라고 설명했습니다.

생체 공학 분야의 윤리 의식 확립

생체 의학은 윤리 문제가 특히 두드러지는 엔지니어링 분야 중 하나입니다. 예를 들어 이제는 CRISPR를 사용해 유전자 편집이 가능하여 과학자들이 DNA에서 질병이나 장애를 일으키는 오류를 수정할 수 있게 되었지만 동시에 인간을 “설계한다”는 윤리적 문제를 일으킬 수도 있습니다.

Herkert는 “이러한 기술들이 단순한 치료를 넘어 신체 능력을 높이기 위해 어디까지 허용해야 하는가를 두고 논쟁이 벌어지기도 한다. 나는 윤리적 차원에 대한 과정을 강의하고 있는데, 학생들은 전쟁에서 팔을 잃은 병사를 위해 인공 관절을 설계하는 것과 병사를 전투에 참여시키기 위해 인공 관절을 만드는 차이점을 잘 이해하지 못하는 경우가 많다.”라고 밝혔습니다.

“인간이 치료목적을 넘어 ‘X-레이 비전’을 사용할 수 있다면, 이는 매우 큰 발전일 것이다. 또한, 이러한 무선 기술의 실현 가능성이 나날이 증가하고 있다. 이와 함께 개인정보 보호와 보안에 미치는 부정적인 영향 등 무선 기술의 실현에 따른 윤리 의식을 중심으로 더욱 광범위한 논의가 필요하다.”라고 덧붙였습니다.

필수 교육

하지만 공학 윤리는 아무리 가르치더라도 일관성이 떨어집니다. 예를 들어 European Journal of Engineering Education의 논문 기고자들에 따르면 “미국과 서유럽, 그리고 미국을 제외한 앵글로 지역의 교육자 대부분이 재학생과 대학원생에 대한 윤리 교육이 부족하다는 데 동의한다”는 것으로 나타났습니다. 또한 유럽의 교육자들은 지속 가능성과 환경 문제에서 윤리를 더욱 강조하는 반면 미국의 교육자들은 윤리 강령을 비롯해 디자인과 안전성 측면에 중점을 두는 것으로 밝혀졌습니다.

독일 다름슈타트 공과 대학(TUD)의 명예 교수이자, 유럽공학교육협회(SEFI)의 이사회 회원인 Manfred Hampe는 “유럽은 일관성이 없어 혼란스러운 상황이다. 필수 윤리 과목을 자체 개발하는 대학들도 있고, 윤리를 선택 과목으로 채택하는 대학들도 있다. 하지만 어떻게든 엔지니어에게 윤리적 딜레마를 다룰 수 있는 방법을 알려주어야 한다.”라고 말했습니다.

Hampe는 대부분의 부교수들이 자신의 경험을 바탕으로 학생들을 가르치다 보니 일관성이 떨어질 수밖에 없다고 말합니다.

“독일의 엔지니어링 교수들은 대부분 자신의 산업 경험에 초점을 맞춰 윤리 문제를 설명할 때가 많다.”라고 덧붙였습니다.

하지만 TUD의 학생들은 윤리 문제에 대한 정규 교육을 원했기 때문에Hampe에게 철학과 윤리 교육을 요청했습니다. 요청받은 Hampe와 동료들은 과학 및 윤리 철학 등 필수 과목을 신설하고 공학도들을 가르칠 인문학 강사를 초빙했습니다.

Hapme는 “여기에서 핵심은 인문학과 엔지니어링 강사들이 항상 학생들 앞에서 함께 이야기하며 긍정적인 측면과 부정적인 측면을 모두 살펴볼 수 있다는 데 있었다. 엔지니어링 강좌의 필수 과목으로 신설되었지만 불평하는 학생이 거의 없이 대성공을 거두었다. 대부분의 학생이 윤리 문제를 정면으로 다루었다는 점에 크게 만족해 했다.”라고 밝혔습니다.

Herkert의 경험 및 관련된 사례 증거들은 젊은 세대들도 개인적으로 확실한 윤리 의식을 가지고 있다는 점을 보여줍니다. 예를 들어 Cone Communications의 설문조사에서 밀레니얼 세대의 64%가 확실한 사회적 책임을 목표로 하지 않는 기업에서는 일하지 않겠다고 응답했고, 88%는 일을 하면서 사회적, 환경적으로 긍정적인 영향을 끼칠 수 있는 기회가 생긴다면 더 큰 보람을 느낄 것이라고 응답했습니다.

인적 자원 소프트웨어 회사인 Workday에서 제공하는 직원 참여 플랫폼 Peakon에 의하면 Z 세대는 기후에 관한 사회적 관심과 문제를 강조한 첫번째 세대라고 합니다. 따라서 사회문제에 대한 적극적인 직원을 희망하는 기업이 더욱 윤리적인 비즈니스 접근방식으로 게임 체인저가 될 수 있습니다.

사례 연구를 위한 사례

Herkert는 엔니니어링과 사회학에 걸쳐 경력을 쌓았습니다. 미국에서 35년 넘게 엔지니어링 윤리를 가르쳐온 그는 사례를 통한 교육이 가장 일반적이면서도 효과적인 교육이라는 것을 깨달았습니다.

Herkert는 “지난 수년간의 강의에서 1986년에 있었던 우주왕복선 챌린저호의 폭발 사고를 자주 이용했다. 엔지니어들은 기후가 너무 춥기 때문에 우주선의 고체 로켓 부스터에 장착된 O-링 씰의 오일 유출을 막을 수 없다고 경고했다. 결국 발사하자마자 O-링에서 오일이 새어 나왔고 왕복선이 폭발하면서 승무원 7명이 사망했다. NASA의 안전 프로토콜에 따라 발사를 연기했다면 인명을 구할 수 있었을 것"이라고 강조했습니다.

교육자들은 이러한 사례 외에 일상에서도 윤리의 중요성을 충분히 부각시킬 수 있습니다. Herkert는 일리노이 공과 대학 철학 교수이자 직업 윤리 연구 센터의 시니어 펠로우로 활동 중인 철학자 Michael Davis의 말을 인용하면서 윤리 교육의 목표를 직업에 대한 기대, 윤리적 딜레마의 존재 의식, 딜레마를 해결할 수 있는 도구, 그리고 확실한 의견 표명과 행동을 위한 윤리적 의지의 개발이라는 4 가지 주요 카테고리를 이야기했습니다.

Herkert는 “마지막 카테고리가 무엇보다 중요하다. 학생들이 회사에서 이러한 문제에 부딪힌다면 어떤 방식으로든 대응할 수 있기를 바란다”라고 말했습니다.

Herkert는 사례 연구가 학생들에게 공감대를 형성한다고 말합니다.

“물론 학생들의 학습 능력에는 어느 정도 차이가 있다. 어떤 학생들은 수업에 들어오더라도 윤리의 중요성을 인지하지 못한 채 오직 과학적인 내용만 받아들인다. 또 어떤 학생들은 윤리적 사고 과정에 진정으로 흥미를 느껴 공학 교육에서 중요한 또 한 가지 요소로 받아들인다. 지난 5~10년 동안 후자에 속하는 학생들이 늘어난 것 같다.”

자기 주도형 학습

윤리 교육을 제공하는 대학에 모든 학생들이 입학할 수 있는 것은 아닙니다. Hampe는 이러한 문제를 해결하고자 SEFI에서 자신의 역할을 통해 더 많은 학생들에게 윤리 교육을 제공할 방법을 생각해냈습니다.

SEFI는 윤리 그룹을 포함해 6개의 특별 관심 그룹으로 구성되어 있지만 윤리 그룹은 운영이 중단된 상태였습니다. SEFI는 2016년에 활동이 없었던 그룹을 영구적으로 폐쇄하는 방안을 검토했습니다. SEFI 이사회의 회원으로 활동했던 Hampe는 폐쇄를 반대했습니다. Hampe는 “윤리 그룹의 폐쇄를 막아냈고 자신이 의장으로 선출되었다.”라고 말했습니다.

새로운 책무를 맡은 그는 엔지니어에게 윤리의 중요성을 가르치겠다는 열의로 “윤리 독본(ethics reader)”을 만들었습니다.

Hampe는 “엔지니어들도 철학적 의미가 담긴 고대 서적에 대해 알아야 한다고 믿었다. 12개의 시대별 철학 문헌을 선정했고, 엔지니어들이 교과 과정 외에 별도로 윤리를 다루는 수단으로 사용하기를 희망했다”라고 설명했습니다.

이렇게 교재를 개발한 이후로 SEFI의 윤리 그룹의 참가자 수가 증가했고 공동 의장을 추가로 선출하여 참가자를 위한 세미나를 정기적으로 개최했습니다.

변화의 인식

엔지니어링 교육 과정에서 윤리를 필수 과목으로 채택하지 않는 대학들이 아직 많고, 대중에 대한 자사의 윤리적 책임을 제대로 이해하지 못하는 기업들이 있을지 모르지만, Herkert는 산업에서 윤리에 대한 관심이 점차 커지고 있음을 확신합니다.

Herkert는 “윤리 교육은 발전하고 있지만 그 속도가 느렸다. 엔지니어링 윤리 교육은 20년 전보다 발전했지만 아직 개선이 필요하다”라고 말했습니다.

“지난 20년 동안 환경 윤리 문제와 관련하여 많은 것이 추진되었지만 넓은 의미에서의 지속 가능성은 환경적 지속 가능성뿐만 아니라 사회적 지속 가능성으로 그 범위를 넓혀야 한다.

미국 국립과학재단(NSF)은 윤리 및 사회적 책임 연구 프로그램에 연구 자금을 지원하고 있습니다. 이 프로그램 덕분에 혁신적인 교수법을 포함해 중요한 엔지니어링 윤리 연구와 사회적 책임 연구가 진행되었지만 Herkert는 아직 윤리에 대해 생각해야 할 것이 많이 남아 있다고 생각합니다.

Herkert는 이렇게 말했습니다. “지금까지 일을 하면서 여러 엔지니어링 교수들이 기술 연구 보조금 제안서를 써달라고 부탁했다. 내용이 좋든 나쁘든, 이러한 제안서를 쓰려면 대부분 수 개월이 걸리며, 윤리적인 내용은 사실을 기반으로 작성해야 한다. 만약 연구원들이 내가 하루 만에 무언가를 적을 수 있다고 생각한다면 윤리를 제대로 이해하지 못하고 있는 것이다. 윤리가 연구에 포함되는 것이 아닌, 추가 요소라고 생각하는 것이다. 하지만 다행스럽게도 변화가 보이고 있다.”

새로운 학생용 3DEXPERIENCE 제품 살펴보기