컨텐츠로 건너 뛰기
Smilegate.AI
Humanized AI for Entertainment Service
Smilegate.AISmilegate.AI
  • News
  • Recent
  • Popular
  • Resource
  • Recruit
  • Team
    • About Us
    • Research Partners
    • Smilegate AI Family
  • Subscribe
  • ko_KR한국어
    • en_USEnglish
    • zh_CN简体中文
검색:
  • News
  • Recent
  • Popular
  • Resource
  • Recruit
  • Team
    • About Us
    • Research Partners
    • Smilegate AI Family
  • Subscribe
  • ko_KR한국어
    • en_USEnglish
    • zh_CN简体中文

zero

1월272021
InteractionCode 초거대 모델을 위한 메모리 최적화 기술

초거대 모델을 위한 메모리 최적화 기술

Interaction, Code116 Views

딥러닝 모델의 파라미터수가 크게 증가함에 따라 학습에 필요한 메모리도 함께 늘어나고 있습니다. OpenAI의 GPT-2는 1.5B개의 파라미터들로 구성되며 Google의 mT5도 13B에 이르는 파라미터 수를 가지고 있습니다. 또한 OpenAI의 GPT-3의 파라미터 수는…

Contact Us
  • E-mail:
    smilegate_ai@smilegate.com
  • Address:
    경기도 성남시 분당구 판교역로 220 쏠리드 스페이스 빌딩 3층
Categories
  • Visual(41)
  • Speech(10)
  • Interaction(44)
  • Trend(38)
  • Code(37)
  • Data(16)
Popular Tags
3D 3d attention avatar bert body animation character covid19 deberta face game image compression image translation intelligence kakaobrain kcbert kochat korean lip motion media MixIT MRC mt5 self-driving car smilegate state of ai report teams together translation unsupervised wikipedia zero
Family Sites
  • Smilegate
  • Smilegate Megaport
  • Smilegate Foundation
  • Smilegate Orangefarm
  • Smilegate Investment
  • Stove
© Smilegate. All Rights Reserved.
  • ko_KR한국어
  • en_USEnglish
  • zh_CN简体中文
Language

맨 위로 이동
 뉴스레터를 구독하세요
 매주 AI 관련된 다양한 트렌드와 연구결과, 그리고 Smilegate.AI의 채용 정보가 공유됩니다.
SUBSCRIBE
언제라도 구독을 취소하실 수 있습니다.
close-link