케이트 크로포드 - ⟪Atlas of AI⟫에 대하여

【1】 서론 : ⟪Atlas of AI⟫와의 만남

 

케이트 크로포드의 "The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence"는 예일대학교 출판부에서 2021년 출간된 작품입니다. 크로포드는 USC 애넌버그 스쿨의 교수이자 마이크로소프트 리서치의 수석 연구원, 파리 에콜 노르말 슈페리외르의 AI와 정의 분야 초빙 의장, 뉴욕대학교 AI Now Institute의 공동 설립자로, AI 분야에서 폭넓은 연구를 진행해왔습니다. 이 책에서 그녀는 AI가 "인공적이지도, 지능적이지도 않다"라는 도발적인 주장을 시작으로, AI를 단순한 알고리즘이나 신경망이 아닌 "정치, 노동, 문화, 자본을 포함하는 거대한 산업적 형성물"로 정의합니다. 책의 제목에서 '아틀라스(지도)'라는 단어를 사용한 것은 AI 산업이 세계를 컴퓨터가 읽을 수 있는 형태로 포착하려는 식민지적 충동을 가지고 있음을 암시합니다. 크로포드는 "무엇이 최적화되고 있는지, 누구를 위한 것인지, 누가 결정하는지"와 같은 정치적 질문을 던지며, AI의 기술적 측면을 넘어 그 사회적, 환경적, 윤리적 영향을 종합적으로 이해하고자 합니다.

 

 

---

【2】 본론 : ⟪Atlas of AI⟫로의 초대

 

〖2-1〗 : 줄거리 및 주요 내용

"The Atlas of AI"는 8개의 장으로 구성되어 있으며, 각 장은 AI의 다른 측면을 탐구합니다. 크로포드는 AI를 지구, 노동, 데이터, 분류, 감정, 국가, 권력, 공간이라는 광범위한 맥락에서 분석합니다. 첫 장 "Earth"에서는 샌프란시스코에서 네바다의 리튬 광산까지 여행하며 AI 인프라를 지원하는 자원 채굴의 환경적 영향을 보여줍니다. 크로포드는 아마존 에코(Echo)와 같은 AI 기기 하나가 작동하기 위해 필요한 "방대한 행성 네트워크"를 설명하며, 이것이 "비재생 자원, 노동, 데이터의 추출"에 의해 가능해진다고 주장합니다. "Labor" 장에서는 아마존 창고와 기계적 터크와 같은 플랫폼에서 인간 노동이 어떻게 착취되는지 분석하고, "자동화의 환상"을 지원하기 위해 필요한 가혹한 노동 추출을 폭로합니다. "Data"와 "Classification" 장에서는 ImageNet과 같은 데이터셋이 동의 없이 구축되고 편향된 데이터로 훈련되는 문제를 지적합니다. 특히 아마존의 자동화된 채용 시스템이 여성 지원자를 체계적으로 차별했던 사례를 통해 AI 시스템이 어떻게 기존의 편향을 강화하는지 보여줍니다. "Affect" 장에서는 감정 컴퓨팅이 폴 에크만의 논쟁적인 감정 표현 연구에 기반한 훈련 세트를 사용하는 문제를 비판합니다. "State" 장에서는 에드워드 스노든의 폭로를 통해 드러난 비밀 서비스의 감시 소프트웨어와 군사적 메타데이터 사용을 다룹니다. 마지막 장들에서는 AlphaGo가 초자연적 지능이 아닌 막대한 계산력의 산물임을 강조하고, 기술 억만장자들이 지구의 자원 고갈을 피해 우주로 도피하려는 환상을 비판합니다.

 

〖2-2〗 : 독서 여정

 

책을 읽는 동안 초반에는 크로포드의 생생한 현장 묘사에 매료되었습니다. 특히 실리콘밸리의 중심에서 네바다의 작은 광산 마을까지의 여정은 물리적으로는 가깝지만 부의 격차는 엄청난 두 세계를 대비시키며 강렬한 인상을 남겼습니다. 크로포드는 "AI의 재료가 만들어지는 곳"인 네바다 실버 피크의 리튬 광산을 방문하며, 전화기, 자동차, 노트북, 감시 시스템 등에 사용되는 배터리의 원료가 어떻게 채굴되는지 보여줍니다. 이를 통해 AI가 "ethereal cloud of immaterial deity(비물질적 신성의 ethereal 구름)"에서 내려와 명백하게 물질적인 것이 됨을 보여줍니다. 중반부에 이르러 AI 시스템이 요구하는 데이터의 방대한 세계와 그 분류 시스템의 문제점을 다룰 때는 기술의 객관성에 대한 나의 가정이 도전받는 느낌이었습니다. 특히 "Special Dataset 32"의 머그샷과 얼굴 인식 데이터 분석을 통해 이러한 시스템의 분류가 객관적이지 않고 기존의 사회적 질서를 강화한다는 주장은 깊은 생각을 하게 만들었습니다. 후반부에서 국가 주도의 AI 세계로 들어갈 때는 공공-민간 파트너십의 역사와 사이버 전쟁의 계보를 추적하며 20세기 지정학적 풍경을 새롭게 이해하게 되었습니다. 특히 구글 직원들이 자신들의 이미지 인식 기술이 군사적 목적(Project Maven)으로 사용되는 것에 항의했던 사례는 기술 기업과 국가 간의 복잡한 관계를 보여주었습니다.

 

 

〖2-3〗 : 인상 깊은 지점

"인공지능은 인공적이지도, 지능적이지도 않다"라는 크로포드의 도발적인 주장이 가장 인상 깊었습니다. 그녀는 AI가 자연 자원, 연료, 인간 노동, 인프라, 물류, 역사, 분류 등으로 구성된 물질적이고 체화된 것이라고 주장합니다. 또한 "우리는 무엇이 최적화되고 있는지, 누구를 위한 것인지, 누가 결정하는지를 물어야 한다"는 그녀의 주장은 기술적 성과와 알고리즘적 돌파구를 넘어 AI의 정치적 측면을 고려해야 함을 일깨웁니다. 특히 "데카르트적 이원론의 이데올로기"에 대한 비판이 강력했습니다. 크로포드는 "AI 시스템이 창조자, 인프라, 그리고 세계 전체로부터 독립적으로 지식을 흡수하고 생산하는 비체화된 두뇌라는 환상"이 우리를 진짜 중요한 질문들로부터 산만하게 한다고 주장합니다. 그녀는 "이 시스템들은 누구를 위해 봉사하는가? 그들의 구축에 있어 정치경제학은 무엇인가? 더 나아가, 더 넓은 행성적 결과는 무엇인가?"라는 질문을 던져야 한다고 강조합니다. 이러한 관점은 AI를 단순한 기술적 도구가 아닌 권력의 시스템으로 바라보게 하며, 그 발전 방향에 대한 근본적인 질문을 던지게 합니다.

 

〖2-4〗 : 주제 및 메시지 탐구

 

크로포드의 핵심 메시지는 AI가 추출의 기술이라는 것입니다. 인프라를 구축하고 유지하는 데 필요한 에너지와 광물에서부터, "자동화된" 서비스 뒤에 있는 착취된 노동자들, 그리고 AI가 우리로부터 수집하는 데이터에 이르기까지 모든 과정이 추출에 기반합니다. 크로포드는 "데이터는 진실의 원재료가 아니며, 단순한 무기도 아니다"라고 주장하며, "'데이터'는 피가 없는 단어가 되었다. 그것은 물질적 기원과 그 목적 모두를 위장한다"고 지적합니다. 이 책은 AI 분야의 두 가지 근본적인 신화를 해체합니다. 첫째, 비인간 시스템이 인간 마음과 유사하다는 신화, 둘째, 지능이 사회적, 문화적, 역사적, 정치적 힘과 독립적으로 존재한다는 신화입니다. 크로포드는 지능의 개념이 수세기 동안 엄청난 해를 끼쳤으며 노예제도부터 우생학에 이르기까지 지배 관계를 정당화하는 데 사용되었다고 주장합니다. 그녀는 "정량화 과정이 인간의 정서적, 인지적, 물리적 세계로 확장되고 있다"고 경고하며, "감정 감지, 가족 유사성, 노화에 따른 개인 추적, 앉기, 손 흔들기, 잔 들기, 울기와 같은 인간 행동에 대한 훈련 세트가 존재한다"고 지적합니다. 이러한 분석은 현대 사회에서 AI 기술이 어떻게 기존의 권력 구조를 강화하고 불평등을 심화시키는지 보여줍니다.

 

반응형

---

【3】 생각 : ⟪Atlas of AI⟫으로부터 성찰

 

〖3-1〗 : 비판적 평가

 

"The Atlas of AI"의 가장 큰 장점은 AI를 기술적 측면을 넘어 정치적, 물리적, 환경적 차원에서 종합적으로 분석한다는 점입니다. 크로포드의 문체는 학술적 깊이를 유지하면서도 생생한 현장 묘사와 개인적 여정을 통해 복잡한 개념을 접근하기 쉽게 설명합니다. 특히 역사, 과학, 철학, 인류학을 아우르는 학제간 접근 방식은 AI에 대한 새로운 시각을 제공합니다. 그러나 일부 비평가들이 지적하듯이, 이 책은 AI에 대한 비판에 치중하여 그 긍정적 측면이나 잠재적 혜택에 대한 논의가 상대적으로 부족합니다. 알렉산더 스미스와 같은 독자는 책의 프레임 자체가 AI를 "어리석고, 멍청하고, 나쁜 계산"으로 정의하는 것에 의문을 제기합니다. 크로포드는 "AI는 불변적으로 그것이 최적화하도록 배치된 권력의 형태를 증폭하고 재생산하도록 설계되어 있다"고 주장하지만, 이것이 정말 "불변적"인지에 대한 의문이 제기될 수 있습니다. 또한 "AI에서 데이터셋은 결코 알고리즘을 먹이기 위한 원재료가 아니다: 그것들은 본질적으로 정치적 개입이다. 데이터를 수확하고, 분류하고, 라벨링하고, 그것을 사용하여 시스템을 훈련시키는 전체 관행은 정치의 한 형태이다"라는 주장은 다소 일반화의 위험이 있습니다. 문제 제기에 비해 구체적인 해결책이나 대안 제시가 부족한 점도 한계로 지적할 수 있습니다.

 

〖3-2〗 : 개인적 성찰

 

이 책은 제게 AI 기술을 바라보는 관점을 근본적으로 변화시켰습니다. 특히 AI의 물질적 기반과 환경적 영향에 대한 인식은 기술 소비에 대한 나의 태도를 재고하게 만들었습니다. 일상에서 사용하는 디지털 기기들이 어디서 왔는지, 어떤 환경적, 사회적 비용을 치르고 만들어졌는지 생각하게 되었습니다. 크로포드와 블라단 욜러가 함께 작업한 "Anatomy of an AI System" 프로젝트는 아마존 에코의 전체 수명 주기를 추적하며, 그것을 구축하는 데 필요한 광물의 채굴부터 그것이 수집하는 음성, 그리고 가나나 파키스탄의 전자 폐기물 덤프에서의 생애 종료까지 모든 과정을 보여줍니다. 이 프로젝트는 뉴욕 현대 미술관과 런던 빅토리아 앤 알버트 박물관의 영구 컬렉션에 포함될 만큼 중요한 작업이며, 이를 통해 AI 시스템의 전체적인 영향을 이해하는 것의 중요성을 깨달았습니다. 또한 데이터와 프라이버시에 대한 인식도 변화했습니다. 크로포드가 "동의의 종말"이라고 부르는 부분에서 설명하듯이, 기술 기업들이 사람들의 얼굴과 이미지를 무단으로 캡처하거나 수집하는 방식에 대해 더 비판적으로 생각하게 되었습니다. 직업적 측면에서도, AI 시스템을 개발하거나 활용할 때 "무엇이 최적화되고 있는지, 누구를 위한 것인지, 누가 결정하는지"를 항상 질문해야 한다는 크로포드의 조언은 중요한 지침이 되었습니다.

 

 

〖3-3〗 : 확장적 사고

크로포드의 분석을 바탕으로, AI의 발전 방향에 대한 새로운 질문과 아이디어를 생각해볼 수 있습니다. 첫째, AI 시스템의 환경적 영향을 최소화하는 방법에 대한 연구가 필요합니다. 크로포드가 지적하듯이, 대규모 AI 시스템은 엄청난 양의 에너지를 소비하지만, 그 비용의 물질적 세부 사항은 사회적 상상 속에서 모호하게 남아 있습니다. 에너지 효율적인 알고리즘 개발, 재생 에너지를 활용한 데이터 센터 운영, 전자 폐기물 감소 전략 등이 중요한 연구 주제가 될 수 있습니다.

 

둘째, AI 개발에 있어 다양한 이해관계자의 참여를 보장하는 거버넌스 모델을 구상해볼 수 있습니다. 크로포드는 AI 시스템이 특정 집단에 불균형한 영향을 미칠 수 있다고 경고합니다. 이러한 문제를 해결하기 위해서는 기술 기업, 정부, 시민 사회, 학계, 그리고 특히 소외된 커뮤니티가 함께 AI의 발전 방향을 결정하는 다중 이해관계자 접근 방식이 필요합니다. 유네스코와 i4Policy가 공동 개발한 10가지 구성 요소는 AI 정책의 의제 설정, 초안 작성 및 구현 전반에 걸쳐 포용적인 정책 설계의 기반을 강화하는 데 도움이 될 수 있습니다.

 

셋째, AI 시스템의 투명성과 설명 가능성을 높이는 기술적, 제도적 방안을 모색해야 합니다. 크로포드가 "The Atlas of AI"에서 비판한 '블랙박스' 특성을 극복하고, 그 결정 과정을 이해하고 검증할 수 있는 시스템 개발이 중요합니다. 이는 NIST의 AI 위험 관리 프레임워크나 EU의 AI 법안에서도 강조하는 부분으로, 이해관계자들이 AI 시스템의 정확성과 견고성을 측정하는 데 참여할 수 있도록 하는 것이 중요합니다.

 

마지막으로, AI 교육에 있어 기술적 측면뿐만 아니라 윤리적, 사회적, 환경적 측면을 포함하는 통합적 접근이 필요합니다. SIGCSE 2025에서 발표된 연구에 따르면, AI 윤리를 대학 교육과정에 통합하는 시도가 학생들의 AI 윤리 논의, 원칙 적용, 추론 능력에 대한 자신감을 크게 향상시켰습니다. 이러한 교육적 접근은 미래 세대가 AI와 공존하며 자신의 인간성을 유지하고 발전시킬 수 있는 능력을 키우는 데 기여할 것입니다.

 

 

---

【4】 결론 : ⟪Atlas of AI⟫에 대한 종합적 평가와  추천

 

 

"The Atlas of AI"는 AI 기술의 실체와 그 영향력을 다각도로 분석한 통찰력 있는 작품입니다. 크로포드는 AI를 단순한 기술적 혁신이 아닌 정치, 노동, 문화, 자본이 얽힌 거대한 산업적 형성물로 재정의하며, 그 발전 과정에서 발생하는 권력의 불균형과 환경적 비용을 날카롭게 지적합니다. 이 책은 AI에 대한 신화를 해체하고 그 물질적, 정치적 현실을 드러냄으로써, 기술 발전의 방향성에 대한 근본적인 질문을 던집니다. 특히 "무엇이 최적화되고 있는지, 누구를 위한 것인지, 누가 결정하는지"를 항상 질문해야 한다는 크로포드의 조언은 AI 시대를 살아가는 모든 이에게 중요한 지침이 됩니다.

 

이 책은 기술에 관심 있는 일반 독자부터 AI 연구자, 정책 입안자, 기업가에 이르기까지 다양한 독자에게 추천할 만합니다. 특히 AI의 기술적 측면을 넘어 그 사회적, 윤리적, 환경적 영향에 관심 있는 독자에게 필수적인 읽을거리입니다. "The Atlas of AI"는 우리가 만들고 채택하는 기술을 재평가하고, 윤리적이고 지속 가능하며 공정한 AI를 위한 행동 촉구서로서 중요한 가치를 지닙니다.

 

최근 세계경제포럼에서 발표한 바와 같이, AI는 기후 변화 대응, 폐기물 관리 개선, 해양 정화 등 환경 문제 해결에도 활용될 수 있습니다. 그러나 크로포드가 강조하듯이, 이러한 잠재적 혜택이 AI 시스템 자체의 환경적 비용을 정당화하지는 않습니다. 따라서 우리는 AI의 발전과 활용에 있어 항상 그 전체적인 영향을 고려하고, 지속 가능한 방향으로 기술을 발전시키기 위한 노력을 게을리해서는 안 될 것입니다.

 

결론적으로, "The Atlas of AI"는 단순한 기술 비평서가 아닌, 우리가 만들고 사용하는 기술이 어떤 세계를 형성하고 있는지, 그리고 우리가 어떤 세계를 원하는지에 대한 깊은 성찰을 요구하는 중요한 작품입니다. 이 책을 통해 AI의 미래는 기술적 혁신뿐만 아니라 사회적 선택과 윤리적 결정에 달려 있음을 깨닫게 됩니다.

 

 

---

오늘의 기술로 독서합니다