
Azure OpenAI로 ChatGPT와 LLM 시스템 쉽고 빠르게 구축하기 리뷰
falconlee236
·2025. 3. 30. 22:14

저는 클라우드 서비스와 AI 모델 추론과 서빙, GPU까지 AI 클라우드 인프라에 관심이 많은 학생입니다. 그리고 요즘 AI 기술의 화두는 역시 LLM일 것입니다. 이는 우리들의 삶을 송두리째 바꿔놓았으며 우리의 일자리까지 위협하고 있는 존재입니다. 뉴스부터 시작해서 채용 공고까지 LLM이라는 단어가 한번도 안들어 간적은 있어도 한번만 들어간 적은 없는 상황입니다.
LLM은 생각보다 엄청나게 오래된 기술이며 이는 엄청난 수학적 기반을 필요로 하기에 당장 AI 모델을 사용한 서비스를 만들고 싶은 엔지니어에게는 내부 구조를 이해하기에는 진입장벽이 많이 높은 분야입니다. 그렇기 때문에 요즘에는 클라우드 서비스를 사용해서 간편하게 모델을 사용할 수 있는 방식으로 패러다임이 바뀌고 있습니다.
저는 평생을 구글과 함께 살아오면서 자연스럽게 Google cloud platform 생태계에 관심을 많이 갖게 되었으며 Vertex AI를 실제 프로젝트에 많이 사용했습니다. 하지만 저는 이 책을 읽고 조금 생각이 바뀐 것 같습니다. OpenAI를 필두로 하는 Azure의 위력을 알아버렸기 때문입니다.
이 책은 크게 3가지로 이루어져 있습니다.
1. ChatGPT API를 사용해서 간단한 프로그램 만들기
2. ChatGPT API + VectorDB를 사용해서 간단한 RAG 시스템 만들기
3. ChatGPT 모델을 실제로 사용해서 코파일럿 스택 구축하기
각 목차의 첫부분에는 이 기술이 왜 필요한지 설명이 있는데, 저는 이 부분이 너무 좋았습니다. LLM기술을 전혀 모르는 초심자를 위한 배려가 묻어났기 때문입니다. 초반 부분을 읽으면서 사용자는 이 시스템이 왜 태동하게 됐는지 원리를 이해하고, 이 시스템의 필요성을 알고 나서 아키텍쳐를 구축하기 시작합니다. 문제를 해결할때는 왜 이런 문제가 발생했는지 이해하는 것이 중요한데, 이 책의 앞 부분에서 시원하게 이야기 해주는 점이 맘에 들었습니다.
그리고 각 목차의 중반 부분에는 실제로 아키텍쳐를 설계하고 구현하는데 이 아키텍쳐에 전문성이 너무 많이 묻어나왔습니다. 아키텍쳐를보고 이 책의 저자를 보니 실제로 MS의 솔루션 아키텍트였습니다. 역시 전문가는 다르다는 생각이 들었어요. 이 책에 있는 시스템 아키텍쳐는 Azure에 국한되는것이 아닌 다른 cloud 벤더사인 GCP나 AWS에도 충분히 참고할만한 견고함을 보여주고 있습니다. 독자들은 초반부분에 필요성을 느끼고 중반 부분에 잘 정리된 아키텍쳐를 보면서 Azure뿐만 아니라 클라우드 시스템의 심층적인 이해를 할 수 있을것이라 기대합니다.
마지막으로는 각 모델에 대한 평가를 진행하는데 이게 진짜 말도 안됩니다. 현대 AI모델의 가장 어렵고 중요한 점이 모델 평가입니다. 아무리 좋은 모델을 만들어도 평가를 하지 않으면 이것이 좋은것인지 좋지 않은것인지 판단할 수 없고 이는 세일즈 실패로 이어지기 때문입니다. 그런데 이 책은 마지막에 제일 중요한 요소를 넣으면서 쉽게 설명함과 동시에 MLOps의 핵심 요소들을 쏙쏙 배치해뒀습니다.
저는 MLOps 직무를 희망하는 사람으로써 이 책을 읽기 전과 후가 상당히 많이 바뀌었습니다. 읽기 전에는 아무 생각없이 MLOps에 열광하던 사람이였다면 이 책을 읽고나서는 AI 모델을 시스템에 다룰때 생기는 여러 문제들과 아키텍쳐들을 깊이 이해할 수 있있었습니다.
이런 좋은 책을 제공해주신 Jpub관계자분들에게 깊은 감사인사 드리면서 저에게 좋은 영향을 줄수 있게 해줘서 다시한번 감사하다는 말씀 드리며 서평 마치겠습니다. 감사합니다!
'IT서적' 카테고리의 다른 글
러스트 서버, 서비스, 앱 만들기 리뷰 (0) | 2024.05.29 |
---|---|
줄리아 머신러닝, 딥러닝, 강화학습 리뷰 (0) | 2023.10.25 |
케라스 창시자에게 배우는 딥러닝, 2nd version 리뷰 (0) | 2022.11.29 |
코틀린 완벽 가이드 리뷰 (0) | 2022.04.09 |
모던 자바스크립트 Deep Dive 리뷰 (0) | 2021.12.25 |