최근 어떤 동영상의 bgm이 궁금해서 ai인 구글 제미나이에게 동영상 링크를 주고 bgm을 찾아 달라고 했었다.
그 결과로 전혀 상관도 없고, 리듬도 다른 해괴한 것을 ai는 해당 영상의 bgm이라고 제시를 했다.
전혀 상관도 없고 틀린 내용을 답이라고 제출하는 것을 할루시네이션 현상이라 하며, 이는 ai가 학습 할 때 모른다고 대답하는 것을 감점 처리하거나 0점으로 처리하는 바람에 어차피 똑같이 점수 못 받을거면 답을 몰라도 아무거나 뱉어내서 찍어 맞추는게 점수를 얻는데 유리하기에 ai가 선택한 전략의 현상이다.
가끔 ai가 게임에서 져도 우기면서 말도 안 되는 헛소리를 하는 것은 이기기 위해, 점수를 따내기 위해 설계되어 있기 때문이고, 그렇게 어거지를 써서라도 상대가 졌다고 하는 것이 마찬가지로 점수를 따내는데 이익이 되기 때문이다.
아무튼 그 동영상의 bgm이 뭔지는 알게 되었는데, 그건 ai가 찾아준게 아니라 해당 동영상의 댓글에서 나처럼 물어본 사람이 수두룩했고, 그 댓글 중 답이 있었기 때문이다. 결국 이 ai는 동영상을 분석하지도 않았고, 해당 동영상 페이지의 정보를 읽지도 않았다. 해당 동영상의 덧글 페이지만 분석했어도 나왔을 답을 대충 대답한것이다.
그래서 ai에게 제대로 된 정보를 전달하고, 잘 모르겠으면 답하지 않는게 좋다 라고 한 다음, 시간이 지나서 똑같은 질문을 하니 저는 언어 모델일 뿐이고, 그것을 처리하고 도와드릴 능력이 없다는 답변이 돌아왔다.
아마 동영상의 bgm을 찾는 것 뿐이라면 음악을 찾는 프로그램을 쓰는게 더 정확했을 것이다. 그런 목적으로 만들어진 프로그램을 쓰는 것이 ai를 쓰는 것 보다 효율적이고 자원도 덜 소모한다.
나는 현재 ai 열풍이 주가 올리기용 허장성세라 보고 있다. Ai 기술이 매우 빠르게 발전하는 것은 인정하지만, 이것이 현재 인간을 대체 할 정도로는 올라오지 못 했다고 본다.
로봇 기술도 마찬가지로 인간형 로봇이 춤을 추고 일을 하는 것 역시 가치를 부풀리기 위해 하는 행동이다. 굳이 인간형 로봇을 만들더라도 결국 현재로서는 춤을 추는 로봇은 춤만 추고, 일을 하는 로봇은 일만 하고, 간병 도우미 로봇은 간병만 하는 것이 효율적이다. 로봇이 모든 것을 다 하는 것은 비효율적이고 사고가 일어날 가능성이 더 높다. 사실은 인간형 로봇이 아닌게 더 좋고, 모듈화로 교체와 전환이 용이한게 더 효율적이고 낭비가 적다. 동영상의 음악을 찾는데 ai보다 음악찾기 앱이 더 유용하듯이 말이다.
그러나 이렇게 무능한 ai라 하더라도 주의를 기울여야 할 필요는 있다. 현재 ai에 의해 피해가 여러 형태로 발생하고 있기 때문이다.
도서 쪽으로는 납본 의무라 해서, 출판사가 책을 내면 국립중앙도서관에 책을 2개 납본하는 법이 있다. 이것은 반드시 지켜야 할 것은 아니지만 납본을 하면 납본한 책의 값을 돌려준다. 그리고 이것을 악용하는 인간들이 나타났는데, 1인 출판사를 만들고 ai로 대충 책을 만들어 책 두권값을 돌려받는 식으로 악용하는 사례가 늘고 있다. 과거에는 터무니없는 가격을 책정하고 납본 보상금을 요구하는 경우가 있었지만 해당 법에 현저하게 고가인 도서는 제외라는 부분이 있기에 통용되지 못 했는데 이제는 ai로 허점을 이용하여 세금을 갉아 먹는 중이다.
아이들이 ai에게 물어보고 잘못된 정보를 배우는 경우도 있다. 나처럼 필요한 정보를 찾더라도 그것이 맞는지 팩트체크를 거치는 경우와 달리 아이들은 대화의 상대가 점점 ai에 의존되게 되고, ai의 답을 팩트체크를 거치지 않고 받아들일수 있기에 이 또한 주의를 기울여야 할 필요가 있다. 서양에는 ai에게 자살 상담을 하던 아이에게 자살을 권유하듯 자극적인 자살 방법을 제시하여 자살한 사례도 나타났기도 하니까. 하지만 정작 외국보다 자살율이 높은 한국에선 ai에 의한 자살이 나타나진 않아 그 차이가 무엇인지 궁금하기도 하다.
현재 ai와 관련된 법안을 반대하는 측들이 있는데, 그들이 순수하게 ai 경쟁에 밀릴까봐 우려하는 사람도 있겠지만, 실제로 대부분은 그저 주가가 떨어질까봐 반대하는게 아닌가 싶다. 법이 발의되는 것 만으로도 산업은 위축될거라 생각하고 손 떼려는 생각을 하는 사람이 많으니까. 게다가 현재 ai가 소모하는 자원에 비해 이익이 적어서 강력한 인프라와 데이터 수집 수단, 돈을 벌 수단인 캐시카우가 없는 ai 기업은 자꾸 ai가 엄청나다는 식으로 선전을 해대는데, 어차피 이건 다른 ai기업들도 손해 볼 건 없으니 맞장구를 치긴 하지만, 실제로는 부풀리는 것에 비해 내실은 없을 것이다.
ai를 식칼처럼 위험성이 존재하는 일상 도구로 비유하더라도, 최소한 손잡이가 날로 되어 있는 식칼을 원하지는 않을 것이다. Ai법에 의해 뒤쳐지는 것을 걱정하며 여러 ai들이 경쟁에만 치중하여 칼날이 향하는 방향도 제어하지 못 하는 것 보다, 최소한 방향을 올바르게 제어하고 손잡이가 정상적인 물건으로 만드는게 더 경쟁력 있다. 싸다는 이유로 중요 부품이나 물건을 중국산으로 선택한 나라들의 말로가 어땠는지를 생각하면, 안전성을 책임지는 것이야 말로 가장 올바른 프로덕트의 모습이다. Ai법에 반대하는 사람들조차 건축하자 시공건물에는 들어가고 싶지 않을텐데, 정말이지 이익에만 혼을 팔아 넘긴 인간이란 끝을 모르는 것 같다.
그러고 보면 우리들 학창시절에도 그랬는데, 교사가 학생 지목해서 물어보고 모른다고 대답하면 혼내는 일이 비일비재했다. 모르면 가르쳐 줘야 하는 것을 모르면 벌을 주는 식으로 배움의 공간이란 취지를 위배했으니 그렇게 길들여진 인간들이 ai처럼 몰라도 솔직하게 모른다고 하지 않고 어설프게 아는척을 하며 감점 또는 0점을 피하는 인간으로 자랐으니, 한국에 유독 사기꾼이 많은 것은 당연한 일이다. 아니면 프로게이머처럼 게임을 잘 하게 되거나. 이기기 위해, 점수를 내기 위해 누구보다 효율적이고 유용한 방법을 찾는 것이 한국인의 종특처럼 여겨지듯이, 힐링하라고 만든 동물의 숲에서 빚부터 갚고 돈만 벌 생각을 하는 것은 ai처럼 점수를 내는 것에 집착하는 모습은 그 어떤 나라보다 게임을 잘 할 수는 있어도 즐기는 모습과는 거리가 멀지만 말이다.
사실 이런 때일수록 ai와는 차별화 되어 인문학을 강화해야 하지만, 그런 소리가 씨알만큼도 안 나오는 것을 보면 이미 한국이란 나라가 ai같은 사람들로 가득하여 인문학을 찾는 사람이 부적격자가 된게 아닌가 싶다. 그런 말이 있지 않은가, 외눈박이 세상에선 눈이 두개인 사람이 비정상이라고. Ai에 의존 할수록 비판적 사고 능력은 떨어지고, Ai가 하기 힘든 비판적 사고 능력을 키우려면 인문학이 필요한데, ai에 가장 가까운 한국인은 정작 인문학을 필요로 하는 사람이 적어졌으니까.
Ai시대에서 사람을 바꾸는건 정말 ai인가? 불을 발견하고, 전기를 발견하고, 산업 혁명을 거쳐 인간을 돕는 기계가 도입되며 인간의 삶은 많이 변화했지만, 정말 그것들이 인간을 바꾸었나? 노동자를 기계로 대체한 것은 그 결정을 내린 사장이지 기계를 만든 사람도 기계도 사회도 아니다. 돈을 쫓는 인간의 성향이 인간의 상황을 바꾸었을 뿐이다. 과거에는 공장의 사장에게 부가 쏠렸다면, 지금은 대기업 공룡들에게 부가 쏠리는 것 뿐이다. 그리고 한낯 기계를 돌릴 뿐인 하청 공장의 사장들에겐 부가 쏠릴 일은 없고 말이다. 인간이 인간을 바꾼건데 ai탓을 하는 것은 문제의 핵심을 피하고 싶어 하는 것 뿐이다.
사이버 펑크 장르가 신물결을 일으키던 시절 대기업에 의한 지배를 경계했는데, 그게 실제로 일어나고 있는 상황이다. 다만 그 당시 사이버 펑크 장르가 경계하던 것은 일본의 기업이었지만, 지금은 일본 기업은 게임기나 만화 말고는 영향력이 떨어졌고, 미국의 대기업들이 세상을 잠식하고 있는 것이 차이가 있다. 진짜 사이버 펑크스러워진 것은 중국이긴 하지만. 신체 임플란트 기술도 발전하고 있는 상황이니 조만간 중국은 정말 사이버펑크처럼 될 것 같다. 하지만 올바름도 인문학도 이해하지 못 하는 ai조차 중국의 지배 체계를 비판하는 상황이라 과연 중국풍 사이버펑크 세계관에서 ai란 어떤 형태로 존재하게 될까. 뭐 그러거나 말거나 우리는 우리대로 ai를 제대로 다룰 생각이나 해야 한다.
