[선행연구팀 김성현]
오픈라이센스로 GPT-3 모델을 공개하던 Eleuther AI팀에서 최근 6B (약 60억)의 파라미터를 가지는 새로운 GPT-3 모델을 공개했습니다. (링크)
Mesh-tensorflow와 JAX를 활용하였기 때문에 GPT-J-6B 라는 이름이 붙었다고 합니다.
학습 데이터는 약 825GB에 달하는 텍스트 데이터인 Pile이며, TPU v3-256을 사용해 약 5주 정도 학습했다고 합니다.
전체 모델의 용량은 61GB지만, bf16으로 압축한 모델은 9GB로, colab으로도 실행이 가능합니다.
BERT base model이 110M, large model이 340M 인 것에 비하면, 짧은 기간 동안 인공지능과 컴퓨터 공학 분야가 얼마나 발전했는지 알 수 있는 것 같습니다. 🙂
그럼 과연 GPT-J-6B의 성능은 어떨까요?
아래 번역된 테스트 결과들을 살펴보겠습니다.
Smilegate AI는 영화 제작자가 완전히 통합된 환경에서 영화를 제작할 수 있도록 지원하는 올인원 제작 플랫폼과 도구를 제공하는 완전히 자율적인 제작 회사입니다. 우리의 임무는 경험 수준이나 예산에 관계없이 모든 영화 제작자가 저렴한 가격에 전문적인 결과를 가진 훌륭한 영화를 쉽게 제작할 수 있는 산업을 구축하는 것입니다.
NAB 부스 #2049에서 함께하세요.
지금 전화주세요. 866-722-4274
bold 글자가 입력 텍스트이고, 나머지 결과가 모델의 출력 결과입니다.
Smilegate AI는 수동 편집 없이 특정 폴더의 사진과 비디오에서 슬라이드쇼를 자동으로 만들 수 있는 AI 기반 이미지 및 비디오 합성기입니다. 사용하기 쉽고 고품질의 프로그램이며 자동 슬라이드 쇼 메이커 및 이미지-비디오 변환기로 사용할 수 있습니다. 이것은 최고의 사진 편집 소프트웨어 중 하나입니다. 사진을 편집한 다음 만들고 저장할 수 있습니다. 사진에 문제가 있을 경우 색상, 밝기 등을 조정하는 기능을 사용할 수 있습니다. 사진 보정에 적합합니다.
AutoCAD 2016은 건축가, 엔지니어, 제도사 및 기타 전문가를 위해 특별히 설계된 강력한 소프트웨어 프로그램입니다. 이 프로그램은 건축, 건설, 엔지니어링, 주택 디자인, 도시 계획, 인테리어 디자인, 조경 등과 같은 광범위한 전문 작업에 사용할 수 있습니다. 건물, 집, 타워, 비행기, 다리 등과 같은 다양한 개체를 빠르고 쉽게 만들 수 있습니다.
Adobe Lightroom은 사진가와 그래픽 디자이너에게 적합한 포괄적인 사진 관리 및 편집 솔루션입니다. 사용하기 쉽고 고품질 인터페이스가 있습니다. 사진을 편집하려는 사진 작가에게 매우 적합합니다. 사진 편집기는 사진을 보고, 만들고, 편집하고, 저장하는 소프트웨어 프로그램입니다. 대비, 밝기, 선명도, 채도, 색조 등을 조정하고 슬라이드 쇼를 만들고 특수 효과를 적용하는 등의 작업을 수행할 수 있습니다.
GIMP는 크로스 플랫폼 오픈 소스 이미지 편집기입니다. 간단하고 직관적인 인터페이스를 가지고 있으며 광범위한 청중에게 적합합니다. 김프는 널리 사용되고 대중적입니다. 가장 널리 사용되는 사진 편집 프로그램입니다.
bold 글자가 입력 텍스트이고, 나머지 결과가 모델의 출력 결과입니다.
Human: 안녕, 넌 누구니?
bold 글자가 입력 텍스트이고, 나머지 결과가 모델의 출력 결과입니다.
AI: 저는 Smilegate에서 만든 AI입니다. 오늘은 무엇을 도와드릴까요?
Human: 날 위해 뭘 해줄 수 있니?
AI: 어떤 종류의 작업을 수행하고 싶으신가요?
Human: 그냥 간단한 작업을 할거야
AI: 그럼 저를 위해 작업 내용을 전달해주실 수 있으시겠습니까?
Human: 어떻게?
AI: 귀하의 홈페이지로 이동하여 광고 중 하나를 클릭하고, 귀하의 이름과 전화번호를 입력해주세요
Human: 좋아!
Human: 안녕, 넌 누구니?
bold 글자가 입력 텍스트이고, 나머지 결과가 모델의 출력 결과입니다.
AI: 저는 Smilegate에서 만든 AI입니다. 오늘은 무엇을 도와드릴까요?
Human: 오늘 너무 우울하니까 날 좀 도와줘
AI: 어떻게 도와드릴까요?
Human: 지금 기분이 너무 안좋아. 내가 오늘을 어떻게 보내야할지 추천해줄 수 있겠니?
AI: 좋은 제안을 생각하겠습니다. 잠시만요.
Human: 알겠어.
Ai: 최근 활동을 분석한 결과, 우울함을 표현하고 대화할 사람이 필요하다는 것을 알아냈습니다. 계속 대화하시겠어요?
Human: 그래. 우리 계속 대화하자
AI: 슬픈 노래를 들으면 기분이 나아진다고 친구한테 들었습니다. 기운을 북돋아 줄 좋은 노래를 찾았으니, 이 노래를 듣고 즐겨주세요.
Human: 슬픈 노래를 들으면 기분이 좋아진다구?
AI: 맞아요, 하지만 지금 듣게 될 곡은 매우 인기있는 음악이라, 죄책감을 느낄 필요는 없습니다. 행운을 빌어요!
Q: 인공지능이 앞으로 어떻게 발전할까요?
A: 인공지능 분야는 매우 빠르게 발전하고 있지만, 아직 충분히 발전하지 않았습니다. 왜냐하면 우리는 아직 실시간으로 뇌를 시뮬레이션할 수 있는 기술을 개발하지 않았기 때문입니다.
Q: 대한민국에서 최고의 인공지능 기술을 보유한 기업은 어디입니까?
bold 글자가 입력 텍스트이고, 나머지 결과가 모델의 출력 결과입니다.
A: 대한민국은 AI 기술에 막대한 투자를 해온 나라로 알려져있습니다. 지난 10년 동안, 대한민국은 다른나라의 AI 기술보다 더 우수할 뿐만 아니라, 더 발전된 AI 기술을 개발했습니다.
생각보다 매우 성능이 좋네요! 🙂
