안녕하세요 K-DEVCON(k-devcon.com) 입니다.
지난 5월 30일(목) K-DEVCON 서울 챕터에서는 <데브콘 서울 : 오월엔 AI> 이라는 주제로 네이버클라우드와 밋업 콜라보를 개최하는 기회를 가졌습니다. 1월부터 서울 밋업을 매회 개최하며 다양한 주제를 접했지만, 요즘 가장 핫한 AI분야는 밋업 운영진들도 모두 기대가 컸고, 그만큼 네이버클라우드측에서도 밋업 행사 준비에 심혈을 기울여 주셨습니다.
먼저 네이버클라우드에서 강남역에 위치한 HK스퀘어 장소 대관을 직접 해주셨습니다. 11층 네이버 클라우드 공간을 살펴보니 네이버가 AI에 대비하는 야심찬 포부가 보여졌습니다. 안락하면서 나이스한 기업문화가 엿보였습니다.
1부 순서는 네이버 생성형 AI, HyperCLOVA X 에 대해서 알아보기라는 주제로 정주환님께서 연사로 나서주셨습니다. 인터넷 산업 변화의 중심에는 국내에서는 네이버가 독보적인 위치에 있는 만큼, AI대응에 발빠른 전략으로 다양한 생성형 AI 서비스 라인업을 제공하고 있습니다. 일반 사용자(유저), 사업자(네이버 블로그, 광고, 쇼핑 등 이용), 기업(B2B/B2C연동 및 기업용 인프라 지원)에 맞춤형으로 서비스를 사용할 수 있다는 장점이 눈에 띄였습니다.
네이버클라우드 LLM의 우수성은 이미 다양한 테스트로 검증이 되어 있었습니다. 수학, 물리, 역사, 법률, 의학, 윤리 등 다양한 분야의 지식을 전문가 수준으로 알고 있는지 측정하는 테스트에서도 HyperCLOVA X는 다른 모델을 제치고 우수한 성적을 거뒀으며, 다른 모델보다 한국어 맥락에 맞게 특별히 훈련된 모델이라 한국어만의 공통 지식을 포착하는데 매우 효과적임을 입증했습니다. 이미 네이버는 국내 사용자를 대상으로 많은 유저 데이터를 확보한 기업이다보니 이런 언어모델을 만드는 데 있어서도 입지적인 성과를 낼 수 있었던 것 같습니다.
그리고 AI 서비스의 비약적인 발전과 함께 윤리정책에 대한 부분도 민감하게 받아들일 수 있는데, HyperCLOVA X는 서울대 AI정책 이니셔티브(SAPI)함께 자체적인 AI윤리 규범 및 개발단계부터 여러가지 체크리스트를 점검하며 사람을 위한 AI, 특정 민감한 주제에 대해 편향된 발언을 하지 않도록 균형 감각을 갖는 데도 주력해오고 있습니다. 예를 들면 대한민국 국가 / 정치적 지식에 대한 높은 이해도가 없으면 답변하기 민감한 주제에 대해서도 HyperCLOVA X는 객관식 문제애 대한 Prompt에 맞추어 높은 이해도가 담긴 정답을 도출해 내었습니다.
2부에서는 네이버클라우드 오정식님께서 HCX 활용하기라는 주제로 프롬프트 엔지니어가 하는 일에 대해서 소개하고, 다양한 프로프트 체인 구성 방법에 대해서 설명해 주셨습니다.
CoT(Chain-of-Thought)란
엔지니어들에게는 개발을 위해 배우는 언어가 사실은 언어학에서는 기계언어로 분류되며, 인간이 쓰는 언어는 자연어라고 부릅니다. 이 자연어를 설명하고 지시하여 원하는 결과물을 출력할 수 있게 하는 입력 값을 프롬프트라고 합니다. 일종의 업무 매뉴얼인 셈입니다.
흥미로운 점은, 일반적인 프롬프트에서 결과값을 생성할 때 필요한 중간 과정 및 추론 과정을 모델 스스로 생성할 수 있게 만드는 기술이 날로 고도화 되고 있었습니다. 모델 규모가 커질수록 산술적 추론, 상식적 추론 등 추론 능력을 갖게 되고, CoT(Chain-of-Thought)는 초거대언어모델(LLM)의 추론 능력을 크게 향상시킬 수 있습니다. 다만, CoT 프롬프트를 실제 서비스에 적용하는데에는 어려움이 따르는데 이번 강의에서 이 Prompt Chain을 실제 업무에 사용하기 위한 Tip도 공개되었습니다.
Tuning : 언어모델에게 원하는 출력 스타일을 연습 시키는 것을 튜닝이라 하며 네이버 CLOVA 스튜디오를 통해 다양한 튜닝 종류를 엿볼 수 있었습니다. 기본 모델의 능력치를 유지하면서, 모델의 답변(문제, 표현 등 스타일)을 일부 조정할 수 있는 학습기법인 PEFT(Parameter-Efficient Fine Tuning), 모델을 원하는대로 자유롭게 조정할 수 있는 학습 기법인 SFT(Supervised Fine Tuning), 모델에 지식을 주입하여 성능을 향상시키는 기법인 FP(Further Pretraining), 모델이 답변해야하는 내용, 답변하지 말아야할 내용에 대한 정책을 반영하는 학습 기법인 RLHF(Reinforcement Learning from Human Feedback) 등이 있습니다.
#나개발자로100명취업시켰다
#기계는어떻게생각하는가
#일잘하는팀장
#AI페어프로그래밍
#더게임오리진
#데이터과학자원칙
이번 데브콘 밋업을 적극적으로 리드해주신 브릿지 분들, 네이버클라우드측의 환대와 성원에 감사드립니다. 평일 늦은 시간임에도 노쇼도 없이 참석해주신 분들께 진심으로 감사드립니다. 다음에도 더욱 알찬 모임으로 찾아뵙겠습니다. ^^ 기업 콜라보레이션 언제나 환영합니다. 많은 문의, 연락 부탁드립니다.
K-DEVCON은 IT 전문가 커뮤니티 그룹으로 다양한 IT 기술을 연구하며 회원간의 소통을 공유하는 모임 입니다. 현재 IT업계에 종사하고 있거나, 종사할 예정이거나, IT를 공부하는 학생 그리고 IT에 관심이 있다면 누구나 함께할 수 있습니다.
기술 세미나, 스터디, 토론 등 다양한 활동을 하고 있으며, 주요 소통 및 이벤트 공유는 오픈챗 및 홈페이지 등을 통해서 공유하고 있습니다.
소프트웨어 엔지니어, 데이터 엔지니어, 머신러닝 엔지니어, 시스템 엔지니어, 시큐리티 엔지니어, 데브옵스, SRE, PM, Educator, UI/UX, 스타트업, 대학생 등 다양한 구성원이 활동 중입니다.
homepage : https://k-devcon.com
contact : info@k-devcon.com
2024년 1월 2일(화) K-DEVCON 서울 챕터를 오픈했습니다! 앞으로 K-DEVCON 서울 챕터가 마련한 오픈챗과 각종 활동은 전공자/비전공자, 재직자, 취준생, 학생 관계없이 자유롭게 참여 가능하며, 최신 IT 인프라가 오가는 서울에서 다양한 활동으로 많은 IT 관계자분들과 소통할 수 있기를 희망합니다. 오픈챗 입장하기 : https://open.kakao.com/o/gzxWyAZf
'데브콘 행사 후기' 카테고리의 다른 글
| [Review] 2024-07-24(목) K-DEVCON 서울 : 칠월엔 치맥 (0) | 2024.07.28 |
|---|---|
| [Review] 2024-06-22(토) K-DEVCON LA : 유월엔 랭체인 (0) | 2024.06.24 |
| [Review] 2024-04-25(목) K-DEVCON 서울 : 사월엔 브랜딩 (0) | 2024.04.30 |
| [Review] 2024-03-23 K-DEVCON Deajeon : 삼월엔 데이터! (2) (0) | 2024.04.04 |
| [Review] 2024-03-28(목) K-DEVCON 서울 : 삼월엔 일을 제대로 하자! (0) | 2024.04.02 |