OpenAI DALL-E: 텍스트로부터 이미지 생성
OpenAI가 발표한 DALL-E는 자연어 텍스트로부터 이미지를 생성하는 기술입니다. 기존에도 StackGAN이나 OP-GAN 등 같은 목적의 기술들이 있었지만 DALL-E는 초대규모 언어 모델인 GPT-3 기반으로 만들어져서 최종 결과물의 품질이 월등히 우수하다는 장점이 있습니다.…
DeBERTa: SuperGLUE에서 인간 성능을 능가
SuperGLUE는 다양한 자연어 이해 task에 대해 AI 기술의 성능을 평가하는 챌린지입니다. 기존 GLUE에 비해 상대적으로 난이도가 높은 task들로 구성되어 있는 것이 특징인데, 최근 Microsoft에서 발표한 DeBERTa 모델이 SOTA(state-of-the-arts)를 달성했으며, 평가…
오픈도메인 챗봇 ‘루다’ 육아일기: 탄생부터 클로즈베타까지의 기록
최근 정식 버전이 릴리즈된 스캐터랩(https://scatterlab.co.kr/)의 “루다”는 수십억건의 카카오톡 대화 데이터를 기반으로 학습된 오픈도메인 챗봇으로 누구나 페이스북 메신저를 통해 대화를 나눠볼 수 있도록 개발되었습니다. DEVIEW 2020에서 스캐터랩 김종윤 CEO가 발표한 동영상은…
언어 정보로 알츠하이머를 진단하는 기술
일상 생활에 지장을 줄 정도로 뇌의 기능이 크게 저하되는 현상을 통틀어 치매라고 하는데, 알츠하이머는 치매 중 60%-80% 가량을 차지하는 가장 큰 원인 중 하나입니다. Stevens Institute of Technology에서는, 알츠하이머를 빠르게…
오픈소스 챗봇 프레임워크: Kochat, Rasa, Rocket Chat
KoChat은 고현웅님이 공개한 한국어 오픈소스 챗봇 프레임워크입니다. 다음은 KoChat github 저장소입니다: 흔히 챗봇이라고 하면 대화 모델만을 생각하는 경우가 많지만, 사실 챗봇이라는 제품 관점에서 보면 머신러닝 알고리즘이 차지하는 부분은 일부분에 불과합니다.…
한국어 욕설 데이터
조준희님이 수집하여 라벨링한 한국어 욕설 데이터 세트를 공유합니다. 여러 커뮤니티에서 수집된 것으로서, 실세계 데이터에 대한 평가용으로 적합한 것 같습니다. 아래는 데이터 세트에 대한 설명입니다: Data Description 문장의 욕설 여부를 분류한…
BERTology는 언어를 이해할 수 있는가?
BERT로 대표되는 딥러닝 기반의 대규모 언어 모델은 Q&A, 문서 요약, 문서 생성, 대화 등 자연어 관련한 다양한 task에서 뛰어난 성능을 보이고 있으며 특히 최근 등장한 GPT-3의 경우 인공 일반 지능(AGI)에…
Gather Town: 가상공간과 화상미팅의 만남
Gather Town은 Zoom이나 Teams와 같은 화상미팅 솔루션의 일종이지만, 가상 공간과 아바타를 적극적으로 도입한 것이 특징입니다. 예를 들어 “Office”라는 가상 공간을 만들고, 각 참여자들은 고유한 아바타와 가상 공간 내 “자리”를 부여받습니다.…
UnifiedQA: 단일 모델로 여러 Q&A Task 대응
주어진 질문에 대해 적합한 답변을 생성하는 QA Task는 최근 딥러닝 기술로 인해 많은 성능 향상이 이루어져 왔습니다. 잘 알려진 SQuAD도 이런 Task 중 하나입니다. 그런데, 각 Task 별로 모델이 학습되다보니…
