Mark Weiser의 비판에서 출발해, 코파일럿 대신 인간의 인식능력을 자연스럽게 확장하는 AI HUD의 철학과 실제 소프트웨어 구현 예시를 살펴봅니다.
내 생각에, 현대 AI 디자인에 대한 최고의 비판 중 하나는 연구자 Mark Weiser가 1992년에 한 강연에서 나왔다. 그는 AI에 “코파일럿”이라는 은유를 사용하는 것에 대해 강하게 비판했다.
이 일은 33년 전 이야기지만, AI를 활용해 무언가를 디자인하는 사람들에게 여전히 엄청나게 시사하는 바가 크다.
Weiser는 MIT 미디어 랩에서 열린 인터페이스 에이전트 관련 행사에서 강연했다. 그들은 지금(2025) 우리가 논의하는 것과 똑같은 문제로 고심하고 있었다: 어떻게 사용자의 모든 맥락을 파악하며, 그를 위한 업무를 자동화해주는 개인 비서를 만들 수 있을까? 심지어 무대에는 AI 에이전트를 연기하는 인간 ‘집사’까지 등장했다.
모두가 이 새로운 패러다임에 들떠 있었다… Weiser만 빼고. 그는 ‘에이전트’ 전체 아이디어에 회의적이었다! 그는 다음과 같은 예시를 들었다: 컴퓨터가 인간이 비행기를 조종할 때 어떻게 부딪힘을 피하도록 돕는게 좋을까?
에이전트 방식은 “코파일럿”——가상 인간이 비행기 조종을 돕겠다고 대화하는 것이다. 만약 충돌이 임박했다면, "충돌 위험! 우측, 하강하세요!"라고 외칠 것이다.
하지만 Weiser는 다른 선택지를 제시한다: 어떻게 하면 조종사 스스로 주위 상황을 자연스럽게 인지하도록 콕핏을 설계할 수 있을까라는 것이다. 그의 말에 따르면, “누구도 일부러 벽을 걸어 뚫고 들어가지 않듯이 비행기도 다른 비행기와 충돌하지 않을 것이다.”
Weiser의 목표는 “투명한 컴퓨터”——즉, 사용자의 주의를 끌어당기는 조수가 아니라, 사용자의 몸의 연장선이 되어 배경에 녹아드는 컴퓨터였다.
Weiser의 1992년 항공기 인터페이스 슬라이드
현대 항공기에는 Weiser의 철학을 잘 보여주는 도구가 있다. 바로 Head-Up Display(HUD), 즉 조종사의 시야에 바로 겹쳐져 수평선, 고도 등 주요 비행 정보를 투명 화면에 띄워주는 장치다.
HUD는 코파일럿과 느낌이 완전히 다르다! 사용자는 대화를 할 필요 없다. HUD는 말 그대로 ‘투명’하다——마치 마법의 눈을 얻은 듯, 사용자는 자연스럽게 더 많은 정보를 인지하게 된다.
비유는 이쯤에서 마치고, 현대 소프트웨어에서 HUD는 어떻게 느껴질까?
가장 익숙한 예가 맞춤법 검사다. 잘 생각해보자: 맞춤법 검사는 "가상 동료"가 사용자의 철자에 대해 말해주는 방식으로 디자인되어 있지 않다. 사용자가 오타를 입력하면 즉시 빨간 밑줄이 그어진다! 사용자에게 새 감각이 생긴 것이다. 이것이 바로 HUD다.
(이 예시는 Jeffrey Heer의 명저 Agency plus Automation에서 가져왔다. 오늘날 맞춤법 검사를 AI 기능이라 생각하진 않지만, 실제로는 모호한 알고리즘이 핵심이다.)
맞춤법 검사는 "비서" 인터페이스 없이 오타를 인식하게 해준다.
AI 코딩에서의 또 다른 개인적인 예시도 있다. 버그를 고치고 싶다고 해보자. “코파일럿” 방식은 에이전트 채팅을 열고 에이전트에게 수정을 요청하는 것이다.
그러나 때때로 더 강력했던 방식이 있다: AI를 사용해 특정 디버거 UI를 만들어 내 프로그램의 동작을 시각화하는 것! 예를 들어, 나는 해커 영화처럼 보이는 Prolog 인터프리터 디버그 뷰를 만든 적이 있다.
이 디버거를 사용하면, 나는 HUD를 갖게 된다! 새로운 감각이 생기고, 프로그램의 동작을 시각적으로 본다. 이 HUD는 버그 수정이라는 좁은 범위 이상으로 확장된다. 나는 주변적으로 맥락을 쌓으며, 새로운 문제나 기회를 발견할 수 있다.
맞춤법 검사나 디버거 모두 자동화/가상 비서만이 가능한 UI가 아님을 보여준다. 우리는 인간의 감각을 확장하는, 더 나은 HUD를 만드는 데 기술을 활용할 수 있다.
나는 HUD가 코파일럿보다 언제나 나을 것이라고 생각하지는 않는다! 하지만 AI를 진지하게 디자인하는 사람이라면, 인간의 정신을 더 직접적으로 확장해주는 ‘비-코파일럿’ 형태를 반드시 고려해야 한다고 믿는다.
언제 어떤 방식을 써야 할까? 명확한 답을 내리긴 어렵지만, 비행기 비유를 통해 감각을 얻어볼 수 있다:
조종사가 단지 기체를 평탄하게 유지하고 싶을 때는 오토파일럿——즉, 가상 코파일럿에 일을 완전히 맡긴다. 하지만 만약 비행기가 새 떼와 충돌해서 허드슨강에 비상착륙해야 한다면, 조종사는 반드시 직접 조작하며, 상황을 빠르게 파악하게 도와주는 계기들이 극히 중요하다.
즉, 일상적이고 예측 가능한 작업은 가상 코파일럿/비서에게 맡기는 것이 합리적일 수 있다. 그러나 진짜 비범한 결과를 얻고 싶다면, 인간 전문가에게 ‘새로운 초능력’을 장착해주는 것이 최고의 전략이다.
