미디엄 핫: 발열 시대의 이미지

동시대 이미지와 현실 세계에 내재한 모순과 그 본질을 특유의 비판 이론과 변증법적 글쓰기로 밝혀온 히토 슈타이얼이 『미디엄 핫: 발열 시대의 이미지』로 돌아왔다. AI 시대의 도래와 함께 과거와 결별한 이미지와 우위를 선점하려는 테크 기업들이 벌이는 경쟁 속에서 점점 가속화되는 변화의 징후들을 날카롭게 조사하는 이 책은 팬데믹 이후 정치, 경제, 문화 등 사회 전반에 걸처 확산되는 불확실성과 통계적 산물로서의 이미지, 그리고 ‘구실’로 전락할 위기에 처한 예술의 처지를 기록한 현장 보고서다.

갈수록 주목받는 AI 생성 이미지는 광범위한 다중 위기의 시대와 맞물려 등장했다. 상시적인 금융 붕괴 위험, 극단적인 기상 이변, 점점 확산되는 우파와 신파시스트 운동, 수많은 사상자와 난민을 낳는 세계 각지의 군사 분쟁… 이들은 서로 긴밀히 연결된 만큼이나 이미지와도 밀접한 관계를 맺는다. 다만, 관계의 성격이 달라졌다. 과거 지표적 재현으로서 이미지가 광학에 근거했다면, 통계적 절차에 기반하는 확률적 이미지는 현실 그 자체와 본질적으로 무관하다. 이전의 이미지가 작동 이미지(operational image)로서 전쟁, 감시, 생산 등 온갖 행위에 적극 개입했다면, 오늘날에는 AI 이미지에 필요한 데이터 생성 자체를 위해 전쟁이 동원되는 지경에 이르렀다. 전쟁은 범용 인공지능(AGI) 개발을 위한 재료를 수집하는 데이터 기업은 물론 AI 활용을 원하는 방산 업체에 최적화된 연구 개발 환경을 제공할 뿐만 아니라, 착취 가능한 AI 노동력을 만드는 데도 크게 기여하기 때문이다. 이 과정에서 이미지는 노동, 데이터, 자원을 추출해 주변을 파괴시키는 데/미지(da/mages, 데이터/이미지)가 되고, 어떤 식으로든 현실에 손상을 입힌다. 현재까지 AI 이미지 기술의 가장 큰 업적은 예술의 민주화가 아닌, 무고한 이들을 빛과 빈곤으로 내몰고 수많은 시위를 촉발한 데 있다. 근래의 그 어떤 기술도 생성형 AI 도구만큼 많은 파업, 소송, 온라인 캠페인을 일으키지 못했으며, 이 산업이 초래하는 막대한 환경 오염은 갈수록 명백해지는 추세다.

약 15년 전, 히토 슈타이얼은 「빈곤한 이미지를 옹호하며」라는 글을 통해 특정 자본주의 조건 아래 일어나는 온라인 이미지의 해상도와 순환 문제라는 양가적 현상을 다룬 바 있다. 저자는 그간 많은 것이 변했다고 말한다. 이제 “빈곤하든 말든, 이미지는 인터넷에서 빨려 나와 벡터 공간에 맞게 갈아 으깨진 다음, 대중 영합적이고 무난하며 무미건조하게 최적화되는 방식으로 재조합된다.” 디지털 이미지 생산이 초래하는 디지털 신진대사의 균열 속에서 빈곤한 이미지는 파워 이미지(power images)로 변모한다. 2022년 무렵부터 기계학습과 관련된 연산 작업은 엄청난 전력을 잡아먹기 시작했으며, 그 소비량은 기하급수적으로 증가하는 중이다. 구글은 이산화탄소 배출 목표를 50퍼센트나 초과하자 탄소 중립 간판을 슬그머니 내렸다. ‘전력’과 ‘권력’을 아우르는 뜻이 담긴 파워 이미지는 정체된 데이터 기반 문화를 표상하는 동시에 대기를 달구고, 사람들을 이주시키며, 자원을 태워 없앤다. 다른 장에서 말하는 ‘평균적 이미지’(mean images) 역시 골상학과 통계학 같은 과거의 추출적이고 감시적인 관행들과 생성형 AI 간의 연속성을 추궁하며 거대한 시스템 아래 은닉된 현실의 층위를 탐색한다. 사회적 약자, 이른바 미세노동자 또는 유령노동자의 노동으로 굴러가는 디지털 과두제에서 우리 역시 소수의 플랫폼 기업들이 준독점하는 디지털 생산 파이프라인 속으로 빨려 들어가는 중이다.

서문에서 밝히듯 이 모든 “일이 이제 막 본격화된 만큼, 대부분의 핵심 질문들은 여전히 결론이 나지 않았고, 아직은 형언하기 어려운 질문도 적잖다. 상황이 워낙 빠르게 움직이다 보니, 아무리 따라가려 해도 오늘의 개념이 내일이면 구식이 되기 마련이다.” 그럼에도 저자가 이 책에서 던지는 질문들은 강력하다. “확률적 시스템과 포퓰리즘 정치에 포획될 때, 이른바 상식의 미학적, 사회적 함의는 어떻게 변하며, 이는 미학이라는 개념의 근본적 한계에 대해 무엇을 시사하는가? 불투명하고 독점적인 시스템에 넘겨질 때, ‘의미’의 의미는 어떻게 변할까? 이미지 제작이라는 열역학적 시스템이 낳는 사회적, 환경적 피해를 어떻게 막을까? 이미 현실화된 AI 기반 무기의 개발과 실전 배치, 그리고 군비 경쟁의 악순환을 어떻게 교란할까? 기계 시스템의 자율성이 높아져 인간의 사고와 감성이 소모품으로 전락할 때, 인간 시스템과 인간 자신은 어떻게 될까?”

“동시대 이미지의 세계를 추궁하고 재해석하는 히토 슈타이얼의 능력은 타의 추종을 불허한다. 데이터 주도 전쟁에서 화석연료 파시즘에 이르기까지, 『미디엄 핫』은 AI 도래 이후 예술과 의미 생성의 최선선에서 기계 지능 시대의 대혼란을 생생하게 그린다.”
―제임스 브라이들, 예술가·기술학자·철학자

“디지털 세계, 예술과 자본주의, AI가 사회에 미치는 복잡성을 탐구한다. 21세기를 위한 필독서.”
―한스 울리히 오브리스트, 큐레이터

“21세기 시각 문화의 맹렬한 불길 속을 관통하는 단테 같은 여정. 세상에서 가장 예리한 관찰자를 길잡이 삼아 통계적이고 작동적인, 가열적이고 도착적인, 지루하고도 치명적인 이미지들의 기묘한 지하 세계를 뚫고 지나간다. 반드시 필요한 책.”
―트레버 페글렌, 예술가·지리학자

“마치 적응형 데이터세트를 다운로드해 내 신경 회로에 직접 연결하는 느낌.”
―윌 해리슨, 『배플러』

“열한 편의 가차 없는 에세이를 통해 인공지능과 예술 분야의 최첨단 발전을 논하고, 테크 기업들의 경쟁이 초래한 피해의 파급 효과를 분석한다. 새로운 기술을 대가로 벌어진 전 세계적인 피해 시스템을 들추고, 끔찍한 상황에 처한 부패한 디지털 풍경을 그려낸다.”
―『커커스』

“슈타이얼 특유의 비판 이론, 능청맞은 유머, 디지털 시대에 내재한 초현실적 모순을 꿰뚫어 보는 날카로운 눈으로 AI 시대에 우리의 시각 문화를 형성하는 가속화된 힘들에 주목한다.”
—엘리자베스 쇼트, 『모닝 스타』

“생성형 AI의 부상과 함께 이미지들이 바뀌고 있다. 이것이 무엇을 의미하는지 고심할 이론적 도구와 언어를 제공하는 책.”
―캐시 패커드, 『프리즈』

“인상적인 통찰력, 무엇보다 돋보이는 신랄한 판결.”
—팀 스미스-레잉, 『아폴로』

“강렬하다. (…) 슈타이얼은 막대한 스케일로 편재하는 AI의 존재를 인식시키고 내부 작동법을 풀어냄으로써 그 ‘인공적 아둔함’을 일깨운다.”
—테리 응우옌, 『아트리뷰』

“지난 10여 년간, 히토 슈타이얼은 날카롭고 재치 있는 문체로 이미지와 기술, 그리고 정치가 어떻게 엮여 돌아가는지 서술해 왔다. 최신작에서 그녀는 웹 3.0 시대에 맞춰 업데이트된 전쟁과 폭력적 갈등이라는 익숙한 영토로 돌아와, 그 어느 때보다 단호하고 간결하게 자신의 입장을 표명한다.”
―라리사 팜, 『아트 인 아메리카』

어쩌면 이 글들은 훗날의 역사가들을 위한 타임캡슐이 될지도 모른다. 언젠가 그들은 이렇게 자문할 테다—이 모든 것이 막 시작됐을 때 사람들은 무슨 생각을 했을까? 좀비화의 위협에 맞서, 즉 통계적 순응주의의 도구들에 의해 쓸모없어지거나 산송장이 될 위협에 맞서 사람들은 어떻게 대응했을까? 사람들은 언제부터 노이즈로, 그러니까 불규칙한 브라운 운동의 지배 아래 놓여 이리 치이고 저리 치이는 사회적 입자로 모델링되기 시작했을까? 그 당시 논쟁의 온도는 몇 도였을까? (16-17쪽)

기계학습 기술은 자원 배분을 보다 합리적으로 만들고, 에너지 소비를 최적화하며, 극심한 불평등을 줄이고, 보건 및 사회 제도를 개선하며, 낭비적인 잘못된 배분을 막는 데도 쓰일 수 있겠지만, 이러한 것들은 아마 AI가 아니라 공산주의로 분류돼야 할 테다. 막대한 에너지를 집어삼키는 초대형 데이터센터들의 출력물을 활용할 현재로서 가장 유력한 방법은 애플 인텔리전스를 통해 회의 일정과 아이의 생일 파티가 겹치지 않도록 해주겠다는 애플의 발상이다. (31-32쪽)

매클루언의 혼란스럽고 (꽤나 임의적인) 분류 이후 ‘핫’ 미디어뿐만 아니라 ‘쿨’ 미디어도 변화했다. 게다가 통계적 이미지 생성기의 등장으로 엔트로피는 매우 직접적인 방식으로 이미지 생산에 개입하게 됐다. 오늘날 우리는 뜨겁고 차가움의 문제를 이렇게 단도직입적으로 물을 수 있다—생성된 시위 이미지를 렌더링할 때의 온도는 몇 도인가? (54쪽)

기계학습 이미지 생성기의 가장 주목할 만한 점 중 하나는 출력물이 아니라 이미 온갖 시위를 촉발했다는 사실이다. 이러한 시위들은 디지털 이미지 생산 인프라를 겨냥한다는 점에서 재귀적 시위라 불러도 좋겠다. 그렇기에 기계학습 기반 이미지 제작이 지금껏 가장 강력한 영향력을 발휘한 곳은, 길거리에 국한되지 않고 여러 층위에서 실제 시위와 조직적 반격을 촉진한 바로 그 지점이다. 최근의 그 어떤 통신 기술도 이처럼 많은 시위 활동을 낳지는 못했다. (56쪽)

평균적 이미지는 원본이 사라진 뒤에도 오래도록 화면과 망막에 그을린 잔상이다. 생산이 대대적인 날조로 증강되는 자동화의 시대를 위해, 정신도 분석도 없이 수행되는 일종의 정신분석이기도 하다. 평균적 이미지는 잠들지 않는 사회의 꿈으로서, 사회의 비합리적 기능들을 논리적 극단으로 밀어붙인다. (79-80쪽)

어쩌면 편향은 버그가 아니라 비열한 생산 체제의 핵심 기능일지도 모른다. 편향은 사람들을 시각적으로 비하함으로써 표상의 차원에서만 생산적으로 작동하지 않는다. 편향을 ‘제거’하려는 시도 또한 전쟁, 에너지 분쟁, 인종차별적 국경 체제로 떠받쳐진 계급적 위계를 공고히 하면서, 비열한 생산 체제 안에서 얼마든지 생산적으로 작동 가능하다. (89-90쪽)

프로그래머, 홍보 전문가, 웹 디자이너, 경리, 회계 담당자 등 많은 디지털, 행정 사무직 노동자들이 기계학습 기반 자동화로 인해 일자리를 위협받고 있다. 그러나 이들이 기계학습에 의한 자동화로 완전히 대체되기보다는, ‘경쟁력’을 유지하기 위해 자신들의 노동을 탈취해 만든 서비스를 임대해 가며 스스로를 ‘업그레이드’하도록 강요받을 공산이 더 크다. (94쪽)

빈곤한 이미지의 시대 이후로 달라진 핵심 요소 가운데 하나는 데이터 비축, 추출, 사유화(enclosure)에 대한 집착이 늘었다는 점이다. 빈곤하든 말든, 이미지는 인터넷에서 빨려 나와 벡터 공간에 맞게 갈아 으깨진 다음, 대중 영합적이고 무난하며 무미건조하게 최적화되는 방식으로 재조합된다. 적어도 어느 정도의 ‘교환’ 또는 데이터의 순환이 이뤄지던 ‘시장’ 단계는, 데이터가 특정 기업의 독점적 사일로 안에 거의 전적으로 축적되도록 설계된 준독점의 시대로 대체되고 있다. (102쪽)

로코의 바실리스크 이야기는 이러한 작동 방식을 그대로 보여준다. 당신에게는 자유의지가 주어진다고 한다. 당신은 이런 종류의 AGI 개발을 지지할 수 있다. (예, 아니오?) 그러나 느닷없이 바실리스크가 협박하고 괴롭히기 시작하면 결국 선택지는 사라진다. 더 큰 틀에서 보면, 이야말로 수십 년 동안 온 사회가 들어온 말이다—‘대안 없음’이라는 신자유주의 모델이 바실리스크식 노골적 독재로 서서히 전환되는 걸 받아들이는 수밖에 없다는 말. 자동화의 이익을 재분배하는 방식에는 선택지가 없다는 말. 그리고 네트워크 자본주의에는 대안이 없다는 말. (151쪽)