사람 같은 AI, AI 같은 사람
[융합연구팀 전동준] 우리가 일반적으로 생각했었던 “AI 같은”의 의미는 사람과 대비되는 기계의 느낌이 강했습니다. 감정이 느껴지지 않고, 말투도 딱딱한 사람들을 “AI 같은 사람” 이라고 많이 표현했었습니다.
검색 시스템의 고도화와 NLP의 활용
[융합연구팀 송지현] Deep Natural Language Processing for LinkedIn Search Systems 최근 챗봇 시스템의 구조화와 최적화 설계가 얼마나 효과적으로 적용하는지를 Rasa Open Source 를 공부하면서 느끼고 있습니다. 그 안에서도 Intent와 entity의…
Instruction tuning – FLAN
[융합연구팀 심홍매] NLP 분야에서 2020년 Top 10 키워드를 뽑는다면 GPT-3(Language Models are Few shot Learners) 당연히 순위 내에 있을 겁니다. 현재까지도 GPT-3의 엄청난 양의 매개변수와 우수한 성능은 여전히 NLP 분야…
코딩을 도와주는 인공지능, Copilot
[선행연구팀 김성현] 자연어의 큰 반향을 일으킨 causal language model이 (e.g. GPT-3) 이제는 자연어를 넘어서 프로그래밍 언어까지 적용됐습니다! 🤗 지난 6월, Github과 OpenAI가 공동 개발한 Copilot이 공개되었습니다.Copilot은 자연어에서의 GPT-3처럼, 주어진 코드…
Droidlet: 지능형 로봇 개발을 위한 오픈소스 플랫폼
[서비스개발팀 전동준] Facebook AI 에서 실제 환경과 가상 환경에서 사용할 수 있는 로봇 개발을 위한 Droidlet 플랫폼을 지난달 28일에 공개했습니다.
Open Domain 챗봇의 한계를 극복한 Blender 2.0
[선행연구팀 송지현] Open Domain chatbot에 관심을 갖고 Blender 1.0과 Meena에 관한 논문을 접한지 벌써 2년이 넘었습니다. 그 당시엔 그들이 향후 극복하겠다고 주장한 일관성 있게 롱 턴의 대화를 하고, 지식에 관한…
Multimodal Few-Shot Learner
[선행연구팀 심홍매] Open AI의 GPT-3, NAVER의 Hyper CLOVA 와 같은 초 거대 언어 모델이 공개되면서 최근에는 이를 활용한 다양한 사례 및 서비스들도 많이 쏟아져 나오고 있습니다. 이와 같은 초 거대 언어…
현실 문제 해결을 위한 강화학습 환경
[선행연구팀 이정우] 오랜 시간 동안 강화학습 알고리즘들의 성능을 검증하기 위해 게임 (바둑, 장기, 아타리 게임 등)을 사용해 왔습니다. 알고리즘의 발전에 따라, 강화학습 분야에서도 다른 이미지, 자연어 분야와 마찬가지로 현실에 존재하는…
오픈소스 GPT-3 모델, GPT-J-6B 공개
[선행연구팀 김성현] 오픈라이센스로 GPT-3 모델을 공개하던 Eleuther AI팀에서 최근 6B (약 60억)의 파라미터를 가지는 새로운 GPT-3 모델을 공개했습니다. (링크)Mesh-tensorflow와 JAX를 활용하였기 때문에 GPT-J-6B 라는 이름이 붙었다고 합니다. 학습 데이터는 약…
