AI는 거들 뿐, 슛은 내가 쏜다

AI 프로덕트 개발에 관심이 있는 사람이라면 AI 엔지니어링 - 칩 후옌이라는 책을 꼭 읽어보길 권한다. 두껍지만 핵심은 간단하다. 엔진에 해당하는 파운데이션 모델은 이미 챗지피티·클로드 같은 기성품이 나와 있으니 그걸 가져다 쓰고, 진짜 엔지니어링은 그 위에 얹는 프롬프트·RAG·파인튜닝에서 일어난다는 것이다.

책을 읽으며 슬램덩크의 강백호가 떠올랐다. 필자는 슬램덩크를 통해 본 직장생활이라는 매거진을 연재했을 정도로 슬램덩크에 진심이었던 사람이다.(궁금하다면 필자의 직장생활 슬램덩크라는 매거진을 참조하자)

슬램덩크에는 인생의 진리가 담겨있으니 슬램덩크를 혹시 안보신 분이라면 꼭 보시길 권한다.

(참고로 필자는 완전판 및 오리지널 2개 모두 가지고 있으니, 빌려줄 수도 있다…집만 가깝다면..)

왼손은 거들뿐

파운데이션 AI모델과 강백호의 공통점은 바로 엔진의 탁월함이다. 파운데이션 AI 모델은 사전 자기 학습이라는 과정을 거친다. 이 과정은 텍스트로 구성된 데이터를 학습하는 것이다. 전 세계 웹에서 크롤링한 텍스트를 토큰화하고, 이 데이터로 다음 단어를 예측하도록 학습한다.

다만 여기서 문제점이 2개가 발생한다. 한 가지는 텍스트 형태라는 것이다. 대화의 형태가 아니기 때문에, 채팅용으로 적합하지 않다. 두 번째는 잘못된 정보 학습이다. 만약 파운데이션 모델이 데이터 학습을 포르노 사이트와 불법 도박 사이트에서만 학습했다고 가정해보자. 그럴 경우 파운데이션 모델의 답변은 정상적인 사고와는 거리가 멀 것이다.

이 두 가지를 해결하기 위해서 필요한 것이 사후 학습이다. 파운데이션 모델은 이 사후 학습을 통해 텍스트 형태의 데이터 셋을 채팅이 가능하게 만들어주고, 잘못된 데이터가 있으면 가중치를 통해 편향된 정보를 고칠 수 있는 것이다.

강백호 역시 이와 비슷하다. 전국 대회 전 강백호는 천부적인 재능을 바탕으로 도내의 강자들을 놀라게 한다. 그 엄청난 운동능력으로 상양과의 싸움에서 큰 기여를 하고, 도내 강호들에게 눈도장을 찍는다. 하지만 해남의 감독 남진모는 강백호의 실체를 알아채고, 그에게 홍익현을 붙여 골밑슛도 못하는 강백호의 바닥을 드러낸다.

해남 전 패배 이후 강백호는 능남전을 위해 골밑슛을 연마하는 파인튜닝을 거친다. 그리고 전국대회 출전권을 얻은 후에는 전국대회를 위해 파인튜닝을 하는데, 그것이 바로 중거리 슛 2만개 연습이다. 전국 대회 전 방학 시기에 그는 중거리 슛 2만개를 던짐으로써, 파인튜닝을 마친다. 강백호의 산왕전 마지막 결승골은 이 파인튜닝의 결과다. 그 유명한 “왼손은 거들뿐”은 파인 튜닝의 결과라는 것이다.

AI는 거들뿐

깨움단 베타테스트를 하며 나는 강백호의 2만개 합숙 훈련이 얼마나 지지부진 했을지 다시 돌아볼 수 있었다. 클로드라는 파운데이션 AI를 활용하여 만들고 있는 나의 알람앱은 버그가 굉장히 많다. AI가 아무리 뛰어나다고 하더라도, 그 모든 버그를 잡을 수는 없다.

전국 대회 출전 전 강백호처럼 80% 정도 수준까지 앱 완성은 1시간 이내면 끝났다. 마치 강백호가 한나양에게 약간의 기초 연습만 받은 뒤, 북산의 주전자리를 곧바로 차지한 것처럼 약간의 기초 공사만 하면 앱 공사는 바로 완성된다.

인터넷과 유튜브에 쏟아지는 “5분 만에 어플리케이션 만들기”에 나오는 어플리케이션들은 다 이렇게 슛이 없는 강백호 정도라고 보면 된다.

하지만 이를 프로덕트화 하기 위해서는 나머지 20% 파인튜닝이 필요하다. 그리고 사실 프로덕트 완성에 필요한 90%의 시간은 파인튜닝을 하는데 사용된다.

파운데이션 AI 모델 등장 전에는 초기 기반 공사를 하는데 필요한 절대 시간 자체가 길었을 것이다. 이제는 파운데이션 모델 덕분에 기반 공사 자체는 눈 깜짝할 사이에 끝난다. 다만 파인튜닝이라는 “프로덕트 완성을 위한 길”은 이제부터 시작일 뿐이다.

프로덕트 완성을 위한 길

AI 엔지니어링을 이용해 프로덕트를 완성하는 길은 마치 전국대회로 가는 길과 비슷하다. 그를 위해 사전 자기 학습이 되어있는 파운데이션 모델, 즉 강력한 엔진이 필요하다. 이는 재능이 출중한 선수를 영입하는 것과 비슷하다고 할 수 있다.

재능이 출중한 선수는 사후 학습이 필요하다. 그들의 잘못된 슛폼을 교정하고, 전술에 적합한 인재를 만드는 것. 이것이 바로 파인튜닝이다.

이렇게 제작된 프로덕트는 테스터들의 피드백을 받아, 전체 방향성과 피드백을 적절히 조합하여 대중성을 갖추면서도 원활하게 사용할 수 있는 프로덕트로 나아갈 것이다. 프로덕트가 전국 대회에서도 그들의 능력을 펼칠 수 있도록 하는 것.

이것이 바로 파인튜닝.

깨움단은 베타테스터 신청을 받습니다. 친구들과 재미있게 아침을 함께 하고픈 분들은 아래 페이지를 통해 베타 테스트를 신청해주세요!

깨움단 베타테스터 신청하기