프란치스코 교황은 지난 27일, 교황청 문화교육부가 주최하는 ‘미네르바 대화’(Minerva Dialogues) 연례 모임 참석자들과의 만남에서 “사람의 가치는 데이터만으로 측정될 수 없다”고 강조했다.

‘미네르바 대화’는 기술전문가, 공학자 및 기업가는 물론 법률가, 철학자를 비롯한 인문학자들 이 만나 특히 인공지능(AI) 기술이 끼치는 영향과 결과를 논의하는 모임이다.

이날 연설에서 교황은 인공지능의 발달이 끼치는 긍정적인 영향에도 불구하고 이런 기술 발전의 중심에 항상 “인간 존엄”이 있어야 한다는 점을 강조했다.

“나는 인공지능과 기계학습(머신러닝)의 발달이 긍정적으로 인류의 미래에 공헌할 잠재력이 있다고 확신한다. 동시에 이러한 기술을 발달시키는 사람들이 윤리적으로, 책임 있게 행동하려는 꾸준하고 일관적인 노력이 있어야만 이러한 잠재력이 실현될 수 있다고 확신한다.”

교황은 이같이 밝히며 “기술발달 과정이 포용, 투명성, 안전, 공평, 사생활과 신뢰성과 같은 가치를 존중해야 할 필요성에 관해 합의를 이루었다는 것을 알게 된 것에도 감사한 마음”이라고 말했다.

교황은 “이 분야에서 합의에 이르는 일은 절대 쉬운 일이 아닐 것”이라면서 “오늘날 세계에는 폭넓은 정치체계, 문화, 전통, 철학 및 윤리적 접근법과 종교적 믿음이 존재한다. 대화는 점차 양극화되고 있으며, 공적 토론이 신뢰를 잃고 무엇이 삶의 존엄을 구성하는지에 관한 공유된 시각이 부재할 때, 토론은 논쟁적이기만 하고 결론을 내지 못할 수 있다”고 경고했다.

“진정한 합의는 포용적 대화의 결과여야만 한다.”

교황은 포용적 대화란 “개인들이 함께 진리를 추구하는 것”이라며 “우리가 인정하고 증진해야만 하는 기본 가치는 바로 인간 존엄(「모든 형제들」, 213항 참조)이다. 나는 여러분에게 모든 인간의 본질적 존엄을, 신기술을 평가하는 핵심 기준으로 삼기를 권고한다”고 밝혔다.

교황은 인공지능을 비롯한 기술발달이 지역, 사회경제적 계층에 따라 불평등을 심화했다는 점을 지적하면서 기술 발전과 보조를 맞추는 ‘사회적 포용’의 중요성을 강조했다.

교황은 “현재까지 제시된 증거에 따르면 디지털 기술이 전 세계의 불평등을 상승시켰다는 사실에서 우려가 비롯된다”며 “이는 상당한 수준에 이르는 물질적 부의 차이만이 아닌, 정치사회적 영향력을 행사할 권리의 차이”고 말했다.

교황은 “우리의 국가 제도와 국제적 제도는 기업의 생산물이 끼치는 사회문화적 영향력에 대한 책임을 해당 기업에 물을 수 있는가? 증대된 불평등이 인간적, 사회적 연대의 감각을 무너트릴 위험이 있는가? 공통된 운명이라는 감각을 잃게 될 수 있는가?”라고 질문하며 “우리의 진정한 목표는 과학 기술적 혁신이 더 큰 평등과 사회적 포용이 함께 하도록 해야 하는 것”이라고 제안했다.

“불평등 문제는 인간 존엄이라는 개념을 무너트리는 능력주의에 관한 오해와 결합할 수 있다.”

교황은 또한, 불평등을 능력주의적 시선으로 바라보게 되면 “많은 사람의 빈곤은 어떤 의미에서 자기 잘못이라고 여겨지는 반면, 소수의 경제적 유리함은 그들이 얻어낸 것, 받을 자격이 있는 것으로 여겨질 우려가 있다”고 말했다.

그러면서 “이 접근법은 부, 교육 기회, 사회관계에 관한 불평등한 시작점을 고려하지 않고 특권과 유리함을 개인적 성취로 여긴다. 결과적으로 가난이 가난한 이의 잘못으로 여겨지는 것은, 부자가 가난에 관해 뭐든 해야 할 의무를 면제받는 것”이라고 국가별, 지역별, 계층별로 벌어지는 기술 불평등을 비판했다.

“핵심이 되는 인간 존엄이라는 개념은 사람의 기본 가치가 데이터만으로 측정될 수 없다는 사실을 인정하고 존중할 것을 요구한다. 사회경제적 의사결정에서 우리는 주로 은밀하게 수집되는 개인의 성격이나 과거 행동에 관한 데이터를 처리하는 알고리즘에 판단을 위임하는데 신중해야 한다. 이러한 데이터는 사회적 편견과 고정관념으로 오염될 수 있기 때문이다.”

교황은 “사람의 과거 행동은 그 사람이 변화하고, 성장하여, 사회에 기여할 가능성을 부정하는데 쓰여서는 안 된다”면서 “우리는 알고리즘이 인간 존엄에 관한 존중을 제한하거나 존중에 조건을 덧씌우게 내버려 두어서는 안 되며 알고리즘이 동정, 자비, 용서, 그리고 무엇보다 사람들이 변화할 수 있다는 희망을 배제하게 만들어서는 안 된다”고 역설했다.

교황은 ‘진실된 포용적 대화만이’ 우리로 하여금 인공지능과 디지털 기술을 어떻게 인류에게 도움이 되도록 현명하게 사용할지를 식별할 수 있게 해준다고 강조하면서 발전만을 도모하다가 무너진 바벨탑 이야기를 통해 기술 발전이 초래할 수 있는 비인간성을 경고했다.

“바벨탑 이야기를 통해 우리는 벽돌 한 장을 만드는 것이 얼마나 어려운지 생각하게 된다. 벽돌을 만들려면 진흙, 짚이 필요하고 이를 틀에 넣어 구워야 한다. 그렇기에 예전에는 벽돌이 떨어지면 큰 손실로 여겨졌다. 사람들은 ‘벽돌을 잃어버렸다!’고 울부짖곤 했다. 그런데 일하는 사람이 떨어졌을 때는, 아무도 아무 말도 하지 않았다. 무엇이 더 중요한가, 벽돌 한 장인가, 아니면 일하는 사람인가? 우리는 이것을 생각해봐야 한다.”

교황은 마지막으로 기술이 발전하면서 모든 것이 집중화되는 과정에서 역설적으로 모든 것을 균일하게 만들려는 집착이 위험을 초래할 수 있다고도 경고했다.

교황은 “우리는 차이와 다양성을 풍요의 원천으로 바라보아야 한다”면서 “강요된 단일성은 성장을 가로막기 때문이다. 다양성의 상실은 풍요의 상실이다. 다양성을 통해 우리는 서로에게서 배우고, 이에 따라 겸손하게 우리 인간 존엄의 진정한 의미와 범위를 재발견할 수 있기 때문이다. 차이는 창의력을 자극한다는 것을 잊지 말자”고 제안했다.