생성형 AI는 더 이상 ‘첨단 기술’이라는 단어로 포장된 미래가 아닙니다. 이제는 누구나, 어디서나, 필요할 때 꺼내 쓰는 일상 도구가 되었습니다.
그런데 그걸 ‘어떻게, 얼마나, 어디까지’ 잘 써먹느냐는 또 다른 이야기입니다.
이 기획은 현실에서 활용되고 있는 생성형 AI의 생생한 활용법을 담았습니다. 현재 AI는 거의 모든 곳에서 활용되고 있습니다. 코드를 짜고, 제안서를 만들고, 투자를 유치하고, 새로운 시장을 탐색하고, 고객을 만나고, 보고서를 쓰고, 마케팅 메시지를 정할 때 AI를 자연스럽게 호출합니다. 아니, 거의 모든 순간에 “AI를 일단 던져보는” 것에서 시작합니다.
때로는 코딩 파트너로, 때로는 논문 요약가로, 또 어떤 날은 외국어 회화 연습 친구로. 이들은 AI를 도구이자 동료로 삼아, 자신의 한계를 조금씩 확장해갑니다.
우리가 만난 사람들은 거창한 혁신을 이야기하지 않습니다. 다만, 일이 훨씬 빨라졌고, 더 나은 선택을 하게 됐고, 덜 지치게 됐다고 말합니다.
그리고, 그게 곧 기술이 사람에게 주는 가장 현실적인 변화 아닐까요? 당신은 AI를 어디까지 써봤나요? <바이라인네트워크> 9주년 창간 기획 [슬기로운 AI 활용 생활]을 통해, AI를 어떻게 ‘내 일’에 쓰면 좋을지, 영감과 실마리를 얻어보시길 바랍니다.
조상욱 에잇퍼센트 모바일앱 팀장(=사진)이 출근 후 가장 먼저 하는 것은 AI 도구를 켜는 일이다. 조 팀장은 개발자들 사이에서 코딩을 잘한다고 소문난 클로드를 비롯해 깃허브 코파일럿 등 다양한 AI모델을 AI 도구 커서(Cursor)에서 쓰고 있다.
조 팀장은 “업무 특성에 따라 그에 맞는 AI모델을 쓰고 있다”며 “업무에 따라 다르지만 AI를 활용하면 시간이 줄어든다”고 말했다.
<바이라인네트워크>가 접촉한 IT개발자들은 모두 인공지능(AI)을 ‘동료’라고 표현했다. 챗GPT가 세상에 나온지 채 3년이 되지 않았지만 개발자들은 이제 AI가 없는 세상은 상상하기 어렵다고 말한다. 단순 코딩부터 코드리뷰, 기능 자동화, 대화형 코딩까지 AI가 개발 영역에서 할 수 있는 역할이 늘어나고 있다.
“회사에서 매달 지원해주는 5만원으로 AI를 고용하고 있다. AI는 5만원 그 이상의 값어치가 있다. 코딩 외에도 코딩을 위한 논문 분석, 코드 리뷰, 기획 등 다양한 도움을 준다. 몇 개월 전부터 AI의 실력에 깜짝 깜짝 놀라곤 한다.”
개발자들이 거대언어모델(LLM)을 활용하는 가장 기본적인 작업은 반복적인 코드를 작성할 때다. 방대한 분량의 반복적인 코드를 입력해야 하는 순간 LLM이 필요한 코드를 추천해준다. 개발자가 이를 누르기만 하면 코드가 삽입된다. 쉽게 예를 들자면, 엑셀 표에서 반복되는 단어를 입력할 때 단어가 자동 완성이 되는 것과 비슷하다.
조상욱 팀장은 “언어마다 룰이 정해져 있어 그에 맞춰 코드를 작성해야 한다”며 “이를 개발자가 일일이 입력할 수 있지만 코드 분량이 100~1000줄이 넘어가면 AI가 추천하는 코드를 적용하는 것이 생산성에 좋다”고 밝혔다.
개발 업무에 투입되는 LLM
GS리테일은 점포 별로 디스플레이를 설치해 광고를 노출한다. 회사는 타겟 광고 테스트를 위해 카메라를 추가 탑재해 사용자가 디스플레이를 몇 초간 응시했는지 파악했다. 특히 LLM을 통해 사용자의 연령대, 성별 등을 분석했다.
이 테스트를 주도한 GS리테일의 머천다이징(MD) 디지털트랜스포메이션(DX) 부서의 주길재 팀장은 “커서를 활용해 사용자들이 카메라를 얼마나 응시했는지 알 수 있는 코드를 짰고 그 다음 사용자의 연령대, 성별 등을 파악할 수 있도록 했다”며 “결과값이 괜찮았다”고 당시 상황을 설명했다.
주 팀장에 따르면, LLM을 통해 진행한 이 테스트는 사전 준비 없이 구글링, 깃허브, 코딩만으로 약 두시간 만에 이뤄졌다. 만약 LLM의 도움을 받지 않았더라면 사전조사 등을 거쳐 약 일주일이 소요됐을 것이라는 게 주 팀장의 의견이다.
데이터 기반의 의사결정 솔루션을 개발하는 스타트업 클로저랩스의 박경호 대표는 전체 업무 시간 중 절반 이상을 AI도구를 활용하는데 쓰고 있다. 챗GPT, 깃허브 코파일럿, 등 각 AI모델 별 장점을 활용해 코드를 개선하거나 아이디어를 정리하거나, 생소한 기술 사용법을 익히는 등 다양한 상황에서 쓰고 있다.
최근 박 대표는 데이터를 가공하는 작업인 ‘데이터 프로세싱’과 관련된 백엔드 개발 작업에 LLM을 활용했다. 박 대표는 “데이터 분석에 사용하는 프로그래밍 언어인 SQL을 생성형AI없이 개발하면 일일이 SQL 문법을 다 학습해야 했고 필요한 SQL 함수와 사용법을 우리 제품의 구조에 맞게 작성해야 해서 최소 하루는 걸렸을 것”이라고 말했다.
그는 이어 “그러나 LLM에 ‘이런 데이터가 있고 이런 테이블 구조에서 각 컬럼이 어떤 의미를 갖고 이렇게 데이터를 보고싶다’고 자연어로 넘겨주면 LLM이 SQL을 대신 작성해주고 주석으로 그 의미까지 설명해준다”며 “이 작업이 몇 분 혹은 몇 시간 내로 끝났다”고 사례를 소개했다.
AI와 코딩, 기획 협업
AI가 코드를 던져주는 것을 넘어 함께 코딩을 할 수 있다. AI에게 단 몇 줄의 명령어가 아닌 대화를 통해 아이디어를 구체화해 코드를 밀도 있게 고도화 시키는 작업을 ‘바이브 코딩’이라고 한다. 최근 미국 실리콘밸리에서 시도되고 있는 개발 방식이다.
조상욱 에잇퍼센트 팀장은 바이브 코딩에 대해 “채팅으로 생성형AI에게 코드를 완성시키는 것”이라며 “개발자가 코드를 직접 치는 것이 아니라 AI에 ‘이런 기능이 필요하니 만들어줘’라고 명령하면 AI가 만들고 문제가 생기면 수정 요청을 하는 방식”이라고 설명했다.
AI와 기획을 하는 사례도 있다. 개발자 커뮤니티 오키에서 백엔드 개발을 하고 있는 최규호 개발자는 평소 챗GPT를 비롯한 제미나이, 코파일럿 등으로 아이템 기획을 한다. 그는 “운영 업무에서 자동화할 때 AI에게 ‘최종 결과는 이렇게 됐으면 좋겠는데 이 결과를 만들기 위한 프로세스는 이렇다’는 설명을 하고 부족하거나 추가하면 좋은 것이 뭐냐고 역으로 질문을 한다”고 말했다. 이어 그는 “그러면 AI가 훨씬 완성된 문서로 답변을 작성해준다”고 덧붙였다.
코드 테스트
직접 짠 코드가 제대로 돌아가는지 검수하는 작업에 AI를 활용하기도 한다. 조남규 토스증권 오토메이션 플랫폼팀 리더는 개인적으로 코드검수에 LLM을 활용할 때도 있다. 그는 “LLM을 통해 코드가 서비스에 적합하지 않거나 보안에 문제가 될만한지 등을 검수한다”며 “코드 검수 시간을 단축할 수 있다”고 밝혔다. 조 리더에 따르면, 평균적으로 코드 검수하는데 약 하루 중 절반의 시간을 썼다면, AI 이용 후 이 시간을 10분의 1로 줄였다.
“AI, 개발에 이렇게 활용해보세요”
다수 개발자들이 LLM을 활용한 프롬프트 엔지니어링 시 질문을 잘 하는 것이 중요하다고 입을 모았다. 원하는 결과물을 얻기 위해 최대한 구체적인 질문을 해야 한다는 이야기다.
조상욱 에잇퍼센트 모바일앱팀 팀장은 “LLM이 질문에 답변을 잘 못한다면 복잡한 질문을 잘게 쪼개보라”고 권유했다.
최규호 오키(Okky) 개발자는 AI에 질문을 잘하기 위한 두 가지 연습을 제안했다. 구체적인 질문을 잘 하기 위해 질문을 작은 단위로 쪼개는 것과, AI에게 도움을 요청하는 방법이 그것이다.
최 개발자는 “먼저 자신의 업무를 작은 단위로 세분화해 질문을 쪼개는 연습을 할 수 있다”며 “또 AI가 요청받은 내용을 역으로 질문을 던지도록 하면 깊이 있는 답변을 얻을 확률이 높아진다”고 말했다.
코드에 오류가 난 경우도 마찬가지다. 주길재 GS리테일 MD DX 팀장은 “LLM이 잘 이해할 수 있도록 오류 상태를 잘 설명하거나 로그를 찍어주는 등 최대한 많은 정보를 담아야 한다”고 권유했다. 또 그는 환각(할루시네이션) 현상을 고려해 “AI가 제안한 코드는 반드시 직접 검토하고 테스트를 해봐야 한다”며 “결국 최종적인 책임은 코드를 만든 개발자에게 있으니 꼼꼼하게 검토를 해야 한다”고 강조했다.
마찬가지로, AI가 주는 결과값을 전부 신뢰해선 안된다는 당부가 이어졌다. 최규호 오키 개발자는 “AI가 준 결과값을 검증 없이 바로 쓴다는 것은 말이 안된다고 생각한다”며 “항상 검토, 테스트 후에 쓴다”고 밝혔다.
조남규 토스증권 오토메이션 플랫폼팀 리더도 AI를 100% 신뢰해선 안된다고 경고했다. 조 리더는 “AI가 사람보다 넓은 시야로 (오류를) 봐줄 수 있는 영역도 있지만 맞는 코드인데 틀렸다고 하는 경우가 있어서 그런 부분을 한번씩 더 봐야 하는 일은 있다”고 설명했다.
조상욱 에잇퍼센트 모바일앱팀 팀장은 “예를 들어, 어떤 기능의 알고리즘을 AI가 만들어줬다고 가정하면 별도의 테스트 시나리오를 만들어 이대로 코드가 잘 작동하는지 체크한다”며 “문제가 있다면 직접 찾아 수정을 해야 한다”고 밝혔다.
아울러, 새로운 AI모델이 나오거나 기존 버전이 고도화됐을 때 이를 곧바로 써볼 수 있는 환경을 마련해야 한다는 제언도 나왔다. 조남규 토스증권 오토메이션 플랫폼팀 리더는 “새로운 AI모델이 나왔을 때 빠르게 테스트할 수 있는 환경이 필요하다”며 “샘플 데이터를 통한 벤치 등을 구현해두면 어떤 업무에 더 적합한 모델인지 빠르게 확인할 수 있다고 생각한다”고 말했다.
글. 바이라인네트워크
<홍하나 기자>0626hhn@byline.network