[강의 후기] 2024 웹 개발교육 세미나 | 허깅페이스 트랜스포머 라이브러리를 활용한 자연어 처리

목차

•   1. KISA 2024 웹 개발교육 세미나 소개
•   2. 송파구 KISA 서울청사 가는법 및 강의장 소개
•   3. 웹 개발교육 세미나 점심 식사
•   4. 허깅페이스 트랜스포머 라이브러리를 활용한 자연어 처리 후기

 

1. KISA 2024 웹 개발교육 세미나 소개

 

이번 웹 개발교육 세미나는 에이블런에서 주최한 교육으로, 지금까지 여러 번의 강의가 있었습니다. 그중 Vue.js를 활용한 웹 인터페이스 개발이나, React Native를 통한 모바일 앱 개발을 듣고 싶어서 신청했었는데, 선착순에 들지 못하기도 했고, 시간적으로 여유도 없어서 빈번히 실패했었는데, 다행히 마지막 교육을 듣게 되었습니다.

 

2. 송파구 KISA 서울청사 가는법 및 강의장 소개

 

송파구에 위치한 KISA 서울청사의 경우 서울특별시 송파구 중대로 135(가락동) IT벤쳐타워 서관 10층에 위치하고 있습니다. 처음에 무슨 건물이지 했는데, 가보니까 동관과 서관이 명확하게 나뉘어 있어 찾기 쉽더라고요.

 

엘리베이터를 타고 올라가니 10층에 바로 KISA 서울청사가 바로 나왔습니다. 라운지처럼 쉼터가 있었고, 교육장은 안쪽에 위치해 있었네요. 참고로 뒤쪽에는 스타트업들도 있었습니다.

 

교육장에 들어서자마자 눈에 띄는 건 잠실 롯데타워였습니다. 요새 참가하는 교육들에 전망이 왜 이렇게 좋은지... 부럽네요 ㅎㅎ

허깅페이스 트랜스포머 라이브러리를 활용한 자연어 처리의 교육은 손영기 명지대 겸임교수님이 맡아주셨습니다. 개인적으로 처음 보는 단어 '허깅페이스', '트랜스포머'가 있어 좀 걱정이 많이 됐었는데, 결국 라이브러리의 하나더라고요. 제가 텍스트마이닝을 하면서 경험했던 자연어 처리와 많이 연결되는 부분이 있어 훨씬 집중도 잘 됐고 유익한 시간이었습니다.

 

3. 웹 개발교육 세미나 점심 식사

 

이번 교육의 점심은 본도시락이 주어졌네요. 솔직히 큰 기대 안했는데, 생각보다 너무 잘 나와 놀랐습니다!

 

4. 허깅페이스 트랜스포머 라이브러리를 활용한 자연어 처리 후기

 

허깅페이스란 트랜스포머를 활용할 수 있는 라이브러리 중 하나라고 합니다. 트랜스포머를 알기 위해서 기본적으로 알아야 할 단어(강의 중 지속적으로 언급되었던 단어)로는 One hot vector, Embed vector, Attention, Transformer이 있습니다. (이후에는 제가 듣긴 들었지만, 개념이 부족해 틀린 내용이 있을 수도 있으니 감안하고 보시면 될 것 같습니다.) 트랜스포머는 2017년 Attention의 장점을 가져오고, RNN에서만 있었던 시간차 데이터의 개념을 합쳤으며, 병렬처리가 가능하도록 했다고 합니다. 병렬처리가 가능해지니 GPU의 사용이 가능해졌고, 결국 빠르게 자연어를 처리할 수 있게 되었습니다. 이러한 개념을 기반으로 GPT가 나왔고, 지금의 chatGPT가 탄생하게 되었습니다. 

출처: ChatGPT: Jack of all trades, master of none

추가적으로 이번 글을 쓰면서 다른 블로그를 찾아보다가 알게된 사실인데, GPT 자체가 Generative Pre-trained Transformers의 약자라고 합니다. 항상 GPT, GPT라고 말하고 다녔었는데, 이런 뜻을 갖고 있는 줄 몰랐네요. Transformer라는 단어가 모든 모델에 언급될 정도로 생성형 AI에서는 Transformer 기술이 중요하게 여겨지고 있습니다. 다만, 한국에서는 2020년까지 이 Transformer기술에 큰 관심을 갖지 않았어서 AI기술이 늦어졌다고 하네요.

출처: https://research.aimultiple.com/gpt/

다시 허깅페이스로 돌아가서, 허깅페이스(Hugging Face)는 이런 트랜스포머 기술을 손쉽게 활용할 수 있도록 하나의 모듈화(라이브러리)를 시킨 장소라고 보시면 됩니다. 그렇기 때문에 GPT 기술을 이 라이브러리를 활용해 맛볼수도 있네요. 저도 실제로 이번 강의를 들으면서 경험해 보고 놀라움을 금치 못했었습니다. 다만, 더 최신화되고 좋은 모델을 사용하려면 유료로 구독을 해야 하는데, GPT4o를 구독하는 것과 가격이 비슷할 수 있어 굳이 허깅페이스를 구독해야 하나 의문이 든다고 하셨네요.

암튼 이런 자연어를 처리하는 모델을 알게되고, 또 경험했다는 것만으로도 저는 이번 강의에 큰 가치가 있었다고 생각이 됩니다. 이번이 2024년에 진행하는 마지막 세미나지만, 2025년에는 더 빠르게 움직여서 더 좋은 강의들 놓치지 않고 들을 수 있으면 좋겠네요 ㅎㅎ