우리는 보�는 것, 측정 가능한 것만 중요하다고 착�합니다. 하지만 �존 편향, ��터 편향, 측정 편향� 보여주듯, 신뢰, 윤리, 지혜, 맥� 등 AI 시대� 진짜 중요한 것� 여전히 눈� 보�지 않습니다.

글쓴�: 박범순(Adam Park), �로드(Claude)

�아오지 못한 �격기들

제2차 세계대전 당시, 미 공군� 심�한 문제� �면했다. ��과 �본 �공으로 출격한 �격기들� �� 대공�화� 맞아 추�하는 �� 빈번했다. 국방부는 살아 �아온 �격기들� 면밀히 조사했다. 기체 곳곳� �탄 �국� 박혀 있었다. 날개, �체, 꼬리 부분� 구�� 뚫려 있었다.

“ì�´ 부분들ì�„ 보강해야 합니다.”

당연한 결론처럼 보였다. �탄 �국� 많� 곳� 취약한 부분 아닌가? 하지만 통계학� ��브러햄 월드는 정반대� 조언� 했다.

“조종ì„�ê³¼ 엔진ì�„ 보강하십시오.”

그� 논리는 명쾌했다. 날개와 �체� �� 맞고� �아온 �격기가 있다는 건, 그 부분� 맞아� 괜찮다는 뜻�다. 정� 치명�� 부분� 조종�과 엔진�다. 그곳� �� 맞� �격기는 단 한 대� �아오지 못했기 때문� 우리 눈� 보�지 않는 것�다.

우리가 볼 수 있는 것만으로는 진실� 알 수 없다. 오히려 보�지 않는 것� � 중요한 정보를 담고 있다.

병�� 오지 못한 고양�들

1987년, 한 �미로운 논문� 발표�었다. 뉴욕� �물�료센터는 1984년 5개월간 접수� 고양� 추� 사고 132건� 분�했다. 결과는 놀�웠다. 6층 �하�서 떨어진 고양�보다 7층 �� 고층�서 떨어진 고양�가 � 다쳤다는 것�다.

연구ìž�들ì�€ ì�´ë¥¼ ‘종단ì†�ë�„’ ì�´ë¡ ìœ¼ë¡œ 설명했다. ê³ ì–‘ì�´ê°€ ì�¼ì • 높ì�´ ì�´ìƒ�ì—�ì„œ 떨어지면 최대 낙하 ì†�ë�„ì—� ë�„달한 후 ë�” ì�´ìƒ� ê°€ì†�ë�˜ì§€ ì•Šê³ , 오히려 몸ì�˜ 긴장ì�„ 풀어 유연하게 착지한다는 것ì�´ë‹¤.

하지만 ì�´ 연구ì—�는 ê²°ì •ì �ì�¸ 맹ì �ì�´ 있었다. ë�°ì�´í„°ëŠ” “병ì›�ì—� 접수ë�œ” ê³ ì–‘ì�´ë“¤ë§Œ í�¬í•¨í–ˆë‹¤. 7층 ì�´ìƒ�ì—�ì„œ 떨어져 즉사한 ê³ ì–‘ì�´ë“¤ì�€ 병ì›�ì—� 오지 못했다. ë�°ì�´í„°ì—� í�¬í•¨ë�˜ì§€ 않았다. ë³´ì�´ì§€ 않았다.

살아남� �들만 �할 수 있다. 그래서 우리는 살아남� �들� �야기만 듣는다. 침묵하는 다수는 통계�서 사�진다.

가로등 아래� 열쇠

�네를 순찰하� 경찰관� 가로등 불빛 아래�서 무언가를 찾고 있는 술 취한 남�를 발견했다.

“무엇ì�„ 찾고 계십니까?” “열쇠를 잃어버렸어요.” “제가 ë�„와드리겠습니다.”

둘� 한참� 찾았지만 열쇠는 보�지 않았다.

“그런ë�° 여기서 잃어버린 게 확실합니까?” “아뇨. 사실 저쪽 ì–´ë‘  ì†� 어딘가ì—�ì„œ 잃어버렸는ë�°ìš”. 여기는 가로등ì�´ 환해서 찾기 좋잖아요.”

우스�스러운 �야기처럼 들리지만, 우리는 매� �렇게 산다. 측정하기 쉬운 것만 측정하고, 보기 쉬운 곳만 들여다본다. 진짜 중요한 것� 어디 있는지와 �관없�.

AI 시대, 우리는 무엇� 보지 못하는가

� 세 가지 �야기는 AI 시대를 살아가는 우리�게 중요한 질문� �진다.

�존 편향� 함정

우리는 ChatGPT� 성공� 본다. 알파고� 승리를 본다. 하지만 실패한 수천 개� AI 프로�트는 보지 못한다. AI가 정확하게 답한 케�스는 기억하지만, 환�(hallucination)� �으켜 잘못� 정보를 �신 있게 �한 순간들� 금방 잊는다.

AI 학습 ë�°ì�´í„°ì—�는 성공한 사람들, 목소리 í�° 집단ì�˜ ì�´ì•¼ê¸°ê°€ 과대표ë�œë‹¤. 실패했거나 침묵하는 다수ì�˜ ë�°ì�´í„°ëŠ” 누ë�½ë�œë‹¤. 우리는 ‘ë�Œì•„온 í�­ê²©ê¸°’만 ë³´ê³  있는 ê±´ ì•„ë‹�까?

��터� 보�지 않는 구�

AI는 ��터로 학습한다. 하지만 어떤 ��터가 수집�고, 어떤 ��터가 누��는지는 눈� 보�지 않는다. 추천 알고리즘� 보여주지 않� 콘�츠는 존재하지 않는 것처럼 취급�다. 검색 결과 첫 페�지 �후� 정보는 사�진다.

‘병ì›�ì—� 오지 못한 ê³ ì–‘ì�´ë“¤’처럼, 시스템ì—� í�¬ì°©ë�˜ì§€ ì•Šì�€ 목소리들ì�´ 있다. 그들ì�˜ 침묵ì�´ ë�°ì�´í„°ë¥¼ 왜곡한다.

측정 가능한 것만� 세계

AI는 �릭률� 측정한다. 체류시간� 센다. 좋아요 개수를 기�한다. 그래서 �런 지표들� 최�화한다. 하지만 진정한 만족�는? 깊� �해는? 장기� �향�?

벤치마� �수로 AI 모�� 비�한다. 하지만 ��, 맥� �해, 윤리� �단� �수로 환산�지 않는다. ��화로 �한 �산성 �가는 쉽게 측정�지만, �간� 기술 �실, 창�성 �소, �존성 �가는 보�지 않는다.

우리는 모ë‘� ‘가로등 아래’ì—�서만 열쇠를 찾고 있다.

측정할 수 없는 것� 가치

시카고대학� 사회과학 연구��는 켈빈 경(Lord Kelvin)� 유명한 �용문� 새겨져 있다고 한다.

“측정할 수 없다면 ê·¸ 지ì‹�ì�€ 하찮고 불만족스럽다.”

과학� 발전� �� 중요한 �칙�다. 측정하고, 수치화하고, 검�하는 것. 하지만 AI 시대� � �칙� 위험한 함정� � 수 있다.

나심 탈레브는 『블랙스완��서 �했다. 세�� 바꾸는 것� 예측 가능하고 측정 가능한 ��� 사건들� 아니�, 예측 불가능하고 측정 불가능한 극단� 사건들��고. 우리는 측정 가능한 것만 보다가, 진짜 중요한 블랙스완� 놓친다.

AI 시대� 역설� 여기 있다. 기술� 발전할수� � 많� 것� 측정하고 수치화할 수 있게 �었다. 하지만 바로 그렇기 때문�, 측정할 수 없는 것� 가치를 �욱 잊기 쉬워졌다.

신뢰는 측정하기 어렵다. 윤리는 수치화하기 힘들다. 지혜는 벤치마í�¬ë¡œ í�‰ê°€í•  수 없다. 맥ë�½ì�„ ì�´í•´í•˜ëŠ” 능력, ì±…ìž„ê°�, ê³µê°� 능력, 비íŒ�ì � 사고. ì�´ 모든 것들ì�€ ‘가로등 ë°–ì�˜ ì–´ë‘ ’ ì†�ì—� 있다.

하지만 측정하기 어렵다고 해서 하찮� 것� 아니다. 오히려 그 반대다. AI가 할 수 없는 것, ��터로 �착�지 않는 것, 알고리즘� 최�화할 수 없는 것들�야�로 우리가 지켜야 할 가장 �간�� �역�다.

�아오지 못한 �격기를 기억하�. 병�� 오지 못한 고양�를 ��하�. 그리고 가로등 밖 어둠 �� 있는 진짜 열쇠를 찾아야 한다는 것� 잊지 ��.

AI 시대� 정� 중요한 것�, 여전히 눈� 보�지 않는다.

The post ë³´ì�´ì§€ 않는 것ì�˜ 힘: AI 시대ì—� ì •ë§� 중요한 것들 appeared first on Â鶹ԭ´´ Korea 뉴스센터.