빅웨이브에이아이 기술블로그

시작 안녕하십니까? 빅웨이브에이아이 선임 연구원 이현상입니다. 오랜만에 SOTA 알고리즘 시리즈로 인사드립니다! 지난 포스트에서 정형 데이터 예측 분야에서의 트랜스포머 기법을 적용한 TabNet을 소개드린 적이 있었는데요, 그 이후 2021년 6월 SAINT(Self-Attention and Intersample Attention Transformer)라는 새로운 정형 데이터 딥러닝 예측 기법이 등장했습니다! 최근 딥러닝 동향은 거의 대부분의 분야에서 트랜스포머를 적용하고 있는 상황이라고 여러번 말씀드렸죠? 이번에도 역시 트랜스포머 기반 정형 데이터 분석 기술입니다. 논문 내용에 대해서 하나씩 살펴보겠습니다. Key Idea SAINT는 2개의 핵심 아이디어를 가지고 있습니다. 본 논문에서는 정형 데이터..

시작 안녕하십니까? 빅웨이브에이아이 선임 연구원 이현상입니다. 지난 Neural Prophet 리뷰 이후 오랜만에 SOTA 알고리즘에 대해서 소개드리게 되었습니다! 오늘의 SOTA 알고리즘은 바로 DINO(DETR with Improved deNoising anchOr boxes)로 현재 COCO 2017 객체 탐지 데이터셋에서 1위를 차지하고 있습니다. 풀네임에서 따온 이름이 다소 억지스럽긴 하지만, 최근 논문에서는 단어의 느낌을 위해서 이런 방식을 사용하기도 하더라구요. 그러나! 다소 급조한 듯한 이름과는 다르게 DINO는 객체 탐지 분야의 타 알고리즘과 비교했을 때 아주 혁신적인 실험 결과를 발표했습니다. 그 내용에 대해서 핵심 아이디어 및 모델 아키텍처를 소개드리겠습니다. Key Idea DINO..

시작 안녕하세요! 빅웨이브 이현상입니다. 저희 팀에서는 일주일에 한번(수요일) 기술 리뷰를 진행하는데요, 최근 사업에서 시계열(Timeseries) 분석 분야에 대한 수요가 많이 존재하여 이의 SOTA 알고리즘을 소개드리고자 합니다! 기존 포스트에서는 미래에 미리 알고있는 변수를 트랜스포머 구조에서 디코더에 입력하는 TFT(Temporal Fusion Transformer) 모델에 대해서 설명드렸습니다. TFT는 2019년에 발표된 논문으로 그 후 우수한 성능의 모델들이 다수 등장했습니다! 그 중 단변량 시계열 예측에서 우수한 성능을 나타내는 SCINet을 소개합니다. SCINet 시계열 예측 분야는 일반적으로 다변량 및 단변량 문제를 구분합니다. 단변량이라는 것은 변수를 하나로 설정하여 미래 시점의 변..

시작 안녕하세요 ! 빅웨이브에이아이 이병우입니다. 오늘 여러분들께 소개드릴 내용은 바로 페이스북(현 메타)에서 개발한 시계열 예측 패키지인 Neural Prophet 입니다. 데이터 분석에서 빠질 수 없는 것 중 하나가 바로 시계열 분석이죠! 시계열 분석이란 주가, 에너지 사용량 등 시간적인 속성을 가지고 있는 데이터를 분석(예측)하는 것을 의미합니다. 하지만 시계열 분석은 아주 까다로운 분석입니다. 장기적인 관점에서 예측 시 활용할 수 있는 데이터에 한계점이 있기 때문입니다. 이런 까다로운 시계열 분석을 쉽게 할 수 있는 패키지로 Prophet이라는 것이 있었습니다. 하지만 데이터의 비선형적인 요소 및 연속함수의 특징들을 반영하거나 시계열 데이터의 패턴 변동성이 큰 부분들을 반영하기에는 부족한 패키지였..

안녕하세요, 빅웨이브에이아이 김지혜입니다. 여러분들은 3월 9일이 어떤 날인지 아시나요?! 3월 9일은 바로 “제20대 대선일”로 2월 4일 기준 한달 정도 앞두고 있는데요, 윤석열, 이재명, 안철수, 심상정, 허경영 등의 후보가 경쟁 중에 있습니다. 이번 대선에서 흥미로운 점은 바로 선거 유세에 AI 기술들이 활용되었다는 점입니다. 오늘은 선거에서 활용된 두 가지 AI 기술을 소개드리겠습니다! AI 윤석열 먼저 AI 윤석열을 소개드리겠습니다. 윤석열 후보는 국민의힘의 유튜브 채널인 '오른소리'에서 AI 윤석열의 영상을 게시했습니다. https://www.youtube.com/watch?v=F7yzl-NE4Y0 본체보다 말을 잘하는 것 같은데?! 영상에서의 윤 후보는 고개를 돌리는 본인의 습관이 AI 기..

시작 안녕하세요! 빅웨이브에이아이 이현상입니다. 지난 포스트에서 ViT-G/14에 대해서 소개드렸죠? 구글에서는 최근 TFT, TabNet, ViT 등 다양한 분야에서 트랜스포머 기법을 응용하여 우수한 성능을 달성하고 있습니다. 그런데 대표적인 SOTA 알고리즘 소개 사이트인 'paperwithcode'의 이미지 분류 분야를 보면 파라미터 수가 참 어마어마하죠? ImageNet 벤치마크 상위 4개 알고리즘은 모두 파라미터 개수가 1,000M(10억개)이 넘습니다! 파라미터 수가 10억개를 넘는 모델을 개인이 활용하거나 모바일 기기에 탑재하기에는 어려움이 있습니다. 그래서 딥러닝 모델을 실용적으로 활용하기 위한 효율적인 경량화도 딥러닝 분야에서 굉장히 중요한 요소 중 하나입니다. Andrew Howard,..

안녕하세요! 빅웨이브에이아이의 박정환입니다. 지난 포스팅에서는 메타 러닝에 대해서 소개드렸습니다. 여러분들은 오징어게임을 보셨나요? 저는 얼마 전에 처음 보고 하루만에 완주 해버렸답니다. 오징어 게임은 현실의 삶이 힘든 사람들이 목숨을 건 게임을 통해서 최종 우승자는 456억을 얻을 수 있다는 내용의 드라마입니다. 삶의 가치와 돈에 대한 철학적인 메시지, 참신한 스토리 구성이 굉장히 흥미로웠습니다. 재밌게 보고 있는 와중 제가 알고있는 인공지능 기술이 등장하여 더욱 재밌었는데요, 오늘은 이 인공지능 기술에 대해서 소개드리고자 합니다. 인공지능에 관심있으신 분들은 벌써 눈치채셨을지 모르겠습니다! 어떤 장면에서 무슨 알고리즘이 적용되었는지 궁금하시죠? 위의 사진은 무궁화 꽃이 피었습니다 게임에서 술래 로봇이..

안녕하세요! 빅웨이브에이아이의 박정환입니다. 지난 포스팅 글은 딥러닝에 대해서 쉽고 간단하게 알아보았었는데요 ! 이번 포스팅의 주제는 딥러닝 세계에서 떠오르는 학습 방법인 '메타 러닝(Meta learning)'에 대해서 알아보도록 하겠습니다. '메타'라는 단어는 한 차원 위의 개념적 용어로 대상의 전반적인 특성을 반영합니다. 그래서 메타 러닝은 데이터의 패턴을 정해진 프로세스로 학습하는 것이 아니라, 데이터의 특성에 맞춰서 모델 네트워크의 구조를 변화시키면서 학습합니다. 배우는 방법을 배우는 것이죠(Learning to learn). 메타 러닝은 범위가 굉장히 광범위 합니다. 최근에는 하이퍼파라미터 최적화, 자동 신경망 네트워크 설계 등으로 가장 많이 활용되고 있습니다. 자사의 데이터 분석 솔루션인 '..

안녕하세요! 빅웨이브에이아이의 박정환입니다. 저는 항상 교육자료를 만들면서 어떻게 해야 더 쉽게 딥러닝을 소개할지 고민하는데요, 그 과정에서 만들어진 자료들을 바탕으로 최대한 쉽게 딥러닝을 알려드리고자 합니다! 딥러닝을 알기 위해서는 기반 기술인 인공지능과 머신러닝이 무엇인지부터 알아야 합니다. 지난 포스팅(디지털 헬스케어)에서도 한번 소개를 드렸죠? 인공지능 디지털 헬스케어, AI가 지켜주는 우리의 건강! 안녕하세요! 빅웨이브에이아이의 박정환입니다. 전 세계적으로 심각한 고령화 추세와 급등하는 의료비 부담에 대한 국가적 대응이 시급한 상황입니다. 디지털 헬스케어 산업은 예방, 개인맞춤 bigwaveai.tistory.com 딥러닝 개념 인공지능이란 인간의 학습능력, 추론능력, 지각능력, 논증능력, 자연..

안녕하세요! 빅웨이브에이아이의 박정환입니다. 전 세계적으로 심각한 고령화 추세와 급등하는 의료비 부담에 대한 국가적 대응이 시급한 상황입니다. 디지털 헬스케어 산업은 예방, 개인맞춤 의료, 관리 중심의 의료서비스 확대, 고령화 대책방안, 의료비 지출 절감 산업으로 전망되고 있습니다. 그래서! 이번 포스팅에서는 인공지능 디지털 헬스케어에 대한 사례를 알아보도록 하겠습니다 디지털 헬스케어란? 헬스케어(healthcare)란 무엇일까요? 헬스케어란 질병 예방 및 관리를 합친 전반적인 건강관리 의료서비스 사업을 뜻합니다. 현대에는 소득증가, 의료기술의 발전으로 삶의 질이 높아졌습니다. 하지만 고령화 문제로 급증하고 있는 의료비의 지출과 만성질환자의 비율이 점차 증가하는 추세입니다. 늘어나고 있는 의료 수요 때문..