일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
Tags
- GPT3
- 경진대회
- 머신러닝
- 비전러닝
- LLM 성능 개선
- 프롬프트 페르소나
- 인공지능
- TabNet
- 악성댓글
- SOTA
- 모델링
- 거대언어모델
- mergekit
- chatgpt 꿀팁
- LLM
- ChatGPT
- 프롬프트
- 빅데이터
- GaN
- AI
- GPT
- ChatGPT 잘 쓰는 법
- IT
- 프롬프트 잘 쓰는 법
- Transformer
- 프롬프트 잘 쓰는법
- 컴퓨터 비전
- 딥러닝
- 강화학습
- 프롬프트 엔지니어링
Archives
- Today
- Total
목록BentoML (1)
빅웨이브에이아이 기술블로그
BentoML, 모델 서빙을 쉽고 빠르게 !
안녕하세요 ! 빅웨이브에이아이의 박정환입니다. 지난 포스팅글은 정형 데이터 분석 분야의 SOTA 알고리즘인 TabNet에 대해서 알아보았었는데요~ 이번 포스팅글은 모델 서빙을 훨씬 쉽게 ! 훨씬 간단하게 ! 도와주는 BentoML에 대해서 알아보도록 하겠습니다 ! Serving BentoML을 알기 전, 모델 서빙이 무엇인지부터 알아보도록 하겠습니다. 서빙(Serving)이란, 개발된 모델을 서빙 하는 것, 맛있는 음식을 손님에게 서빙해주는 것이라고 생각하면 되겠습니다 ! 이 서빙의 방식으로는 Batch, Online, Edge(Mobile)으로 나뉘어져 있는데요, Serving 시 의존성 관리를 중요하게 취급되기 때문에 Docker나 쿠버네티스를 기반으로 합니다. 그럼, Batch Serving이 뭔지..
기술 블로그
2021. 7. 1. 20:04