AI 연구를 멈추려는 세력과, 멈출 수 없는 계산의 본질

Joscha Bach · 인지 아키텍트, AI 의식 연구자 — 계산·철학·인지과학의 교차점에서 지능을 탐구 · 2026.05.10 ~ 05.24 큐레이션

지능이란 무엇이며, 그것을 연구하는 일을 누가 왜 막으려 하는가. Joscha Bach는 최근 AI 규제 움직임의 이면을 날카롭게 짚으면서, 동시에 계산(computation)이 생명과 마음을 이해하는 데 왜 핵심인지를 설명했어요. 두 주제는 겉보기엔 달라 보이지만, 결국 “지능을 어떻게 볼 것인가”라는 하나의 질문으로 수렴해요.

AI 연구를 막으려는 시도, 그 실체는 무엇인가

Note that FLI does not want safer or better AI, they want to stop AI. Since there is no majority to stop AI, they go for obstruction where they can. FLI wants to make AI worse, which I think will lead to more danger and Xrisk.

^[1]

FLI(Future of Life Institute)가 내세우는 안전 담론이 실은 AI 개발 자체를 막으려는 전략이라고 Bach는 직접 비판했어요. 또한 “중국 정부, FLI, 그리고 수백만 개의 봇이 미국의 AI 연구를 멈추길 원한다”고도 언급했는데, 규제 논의 뒤에 다양한 이해관계가 얽혀 있음을 시사해요.^[5] AI를 더 나쁘게 만드는 것이 오히려 더 큰 위험을 부른다는 역설적 주장이 인상적이에요.

↻ 공유한 글

RT @appodlachia: The bot farms have figured out anti-data center posts on FB are good for engagement, but ironically are using AI-slop to d…

^[2]

Bach가 주목한 이 글은 봇 팜(bot farm)이 반(反)AI 콘텐츠로 참여를 유도하면서 정작 AI 생성 슬롭(slop·저품질 콘텐츠)을 도구로 쓰는 아이러니를 지적해요. AI 비판 담론이 때로는 AI 자체에 의해 증폭된다는 점은 논쟁의 지형을 복잡하게 만들어요.

계산의 본질과 학술 신뢰성의 위기

What makes computation important to understanding life and minds is not the Turing machine, but the principle of causal insulation. Computers create their own, self contained world, fully governed by rules that are independent from the dynamics of the substrate.

^[3]

튜링 기계보다 중요한 것은 “인과적 절연(causal insulation)” 원리라는 주장이에요. 컴퓨터는 기반 물질의 물리적 특성과 무관하게 자체 규칙으로 돌아가는 독립 세계를 만든다는 뜻으로, 이것이 지능과 생명을 이해하는 열쇠라고 봐요. 기질(substrate)이 바뀌어도 계산 패턴이 유지된다는 관점은 AI 의식 연구의 철학적 토대이기도 해요.

↻ 공유한 글

RT @mattbencole: A lot of scholars don’t understand why publishing LLM hallucinated bullshit is unacceptable because it’s only a degree of…

^[4]

Bach가 공유한 이 글은 LLM(거대 언어 모델) 환각(hallucination) 인용을 논문에 실는 행위가 왜 용납될 수 없는지를 다뤄요. 관련해 Bach는 AI 슬롭에 취약한 기관일수록 이미 그 전부터 허술했다는 시각도 함께 추천했는데,^[6] 학술 신뢰성 위기가 AI 때문만은 아님을 짚어요.

Bach의 시선은 일관되게 “무엇이 진짜 위험인가”를 향해 있어요. AI 연구를 멈추는 것도, 검증되지 않은 텍스트를 지식으로 포장하는 것도, 결국 같은 방향의 위험이라는 메시지로 읽혀요.

📚 출처 (Sources)

1. [1]@plinz on 𝕏 · 2026-05-15 — “Note that FLI does not want safer or better AI, they want to stop AI. Since there is no ma…”
2. [2]↻ RT@plinz on 𝕏 · 2026-05-19 — “The bot farms have figured out anti-data center posts on FB are good for engagement, but i…”
3. [3]@plinz on 𝕏 · 2026-05-18 — “What makes computation important to understanding life and minds is not the Turing machine…”
4. [4]↻ RT@plinz on 𝕏 · 2026-05-20 — “A lot of scholars don’t understand why publishing LLM hallucinated bullshit is unacceptabl…”
5. [5]@plinz on 𝕏 · 2026-05-20 — “What a coincidence: The Chinese government, the Future of Life Institute and a million bot…”
6. [6]↻ RT@plinz on 𝕏 · 2026-05-20 — “@s_r_constantin The vulnerability to AI slop is a wonderful measure for the preexisting sl…”

본 글은 Joscha Bach(@plinz)이(가) 지난 14일간 X(트위터)에 올린 게시물 중 6건을 인용해
Claude(Anthropic)가 한국어로 큐레이션·해설한 것입니다. 원문 저작권은 작성자에게 있으며,
출처 목록의 [n] 번호 또는 본문 내 [n] 표시를 누르면 원문 트윗으로 이동합니다.