LLM을 개발환경에 적용한 좋은 예

토스 기술 블로그에 글이 올라왔는데 제목과 내용이 너무 좋아 이렇게 글을 작성하게 되었다. 내용도 그렇게 길지 않고 이해도 어렵지 않으니 한번쯤 관심을 가지고 읽으면 좋을 것 같다.

 

https://toss.tech/article/toss-frontend-ai-docs

토스 프론트엔드 개발자들이 더 이상 문서를 찾지 않는 이유

 

개발에서 코드의 가독성은 중요하지만 무작정 코드를 읽을 줄 안다고 모든게 이해가 되는건 아니다. 왜 이렇게 작성되었는지 의도를 파악하고 처리를 해야 하는 부분도 분명 있기에 주석을 달지만 과도한 주석은 오히려 코드를 해석하는데 방해만 될 뿐이다. 이럴 경우를 대비하여 문서를 작성하지만 코드와의 직접적인 연결상을 강제하긴 어려우니 이러한 일들을 빠르게 해결하기 위해선 결국 담당자를 호출하게 되는 일들이 벌어진다. 토스에서는 이러한 일들을 해결하기 위해 메시지를 수집하고 문서를 정리해뒀다. 유저의 질문을 분석하고 보유하고 있는 데이터를 검색해서 결과를 답해준다. 이 모든게 LLM이 앞에서 사람과의 대화를 담당해주다보니 매끄럽게 원하는 답을 찾을 수 있게 된다.

 

지난 번에 나의 글에 고맙게도 댓글을 남겨주시면서 관심을 표현하신 분이 계셨다. 유튜브 자막을 모아서 뭘 할 건지에 대한 내용이 안적혀 있어서 아쉽다고 말씀을 해주셨는데 이 글이 좋은 예가 될 것 같다. 

 

LLM이 처음 나왔을 때는 뭐든 다 될 것 같이 소개해놓고 정작 사용하면 엉뚱한 말만 그럴싸하게 내놓고 있어 많이 아쉬웠을 것이다. 하지만 짧은 시간동안 많은 발전이 있었고 이제는 제법 말도 알아듣고 나에게 도움이 되는 수준으로 올라왔음을 느낀다. LLM이 똑똑해진다는 것은 그 만큼 사람이 읽는 행위를 하고 내용을 소화하는데 걸리는 시간을 기계가 대신 해줄 수 있다는 점이다. 기계는 데이터를 수집하고 분석하고 요약하여 의사결정을 도와준다. 우리는 보고서를 읽고 버튼을 누르는데 큰 도움을 얻을 수 있다. 즉, CEO가 될 수 있다는 말이다.

 

그래서 나는 지금 여러 데이터를 축적하고 있다.

• 블로그에 올리고 있는 글들
• 유튜브를 통해 얻은 정보의 요약본
• 매일 매일 쌓이고 있는 생체 정보

이러한 정보는 당장은 별볼일이 없겠지만 쌓다보면 어느새 거대한 정보의 덩어리가 될 것이고, 그 때 LLM과 주변 솔루션들을 활용해 진정한 나만의 제2의 두뇌를 만들어낼 수 있게 될 것이다.

그런 의미에서 토스의 시도는 매우 의미 있다고 보였다.