Paradigm Shift On AI

[AI센터 한대웅]

“패러다임 시프트” 라는 단어의 사전적인 의미는 어떤 문제나 현상을 바라보는 전제나 접근 방법에 대한 근본적인 변화 혹은 인식의 전환을 의미합니다.

사회 문화적인 관점에서는 시민 계급이 절대 왕정에 저항하여 봉건적 특권 계급과 투쟁해서 승리를 쟁취한 시민 혁명들을 예를 들 수 있을 것이고, 기술적인 관점에서는 노동집약적인 가내 수공업을 증기 기관의 발명을 통해 대규모 생산이 가능하도록 한 산업 혁명을 꼽을 수 있을 것 입니다.

패러다임의 시프트를 통하여 사회는 근본적인 변화를 맞이하게 되며 문제에 대한 접근 방법과 해결 방안 자체에 대한 시각을 완전히 다른 방향으로 전환하게 됩니다.

ㅤ

ㅤ

이러한 전환은 소프트웨어 산업에도 수십년을 주기로 진행되어 왔습니다. 패러다임의 변화는 소프트웨어 개발에 대한 접근 방법에 근본적인 변화를 불러오고 그러한 변화는 개발 언어, 방법론, 세부적인 개발 테크닉에 대한 변화를 수반하게 되고 결국에는 소프트웨어 생태계 자체의 변화를 가져오게 됩니다. 대표적인 소프트웨어 생태계에서의 패러다임 시프트의 예는 객체 지향의 도입입니다.

크고 복잡한 소프트웨어 시스템을 개발하기 위해 개발자는 전체 개발 프로세스를 더 작고 관리하기 쉬운 단계로 나눕니다.

소프트웨어 개발 프로세스의 선택은 프로젝트의 성공에 큰 영향을 미치고 적절한 프로세스는 일정 준수, 비용 절감, 품질 개선 및 위험 감소로 이어질 수 있지만, 잘못된 프로세스는 중복된 작업과 불필요한 노력으로 일정을 맞추지 못하거나 품질이 저하되어 고객의 불만으로 이어질 수 있습니다.

ㅤ

ㅤ

과거 수십년간 소프트웨어 개발 패러다임을 지배하던 절차적(Procedural) 패러다임은 문제를 순차적으로 해결하는데 중점을 둡니다. 이러한 장기 집권 체재를 객체 지향 패러다임이 변화를 주었고 대부분의 소프트웨어 개발 생태계는 객체를 중심으로 어떻게 효과적으로 분석, 설계, 개발을 진행할지를 고민하게 되었습니다. 관련된 많은 개발 언어, 개발 방법론, 개발 툴이 시장에 쏟아져 나오게 되었으며 결국에 소프트웨어 개발 산업은 이러한 새로운 패러다임으로 무장한 새로운 인력들로 채워지게 되고 세상은 새로운 패러다임의 변화에 휩쓸리게 되었습니다.

Assembly, Cobol, C를 개발언어로 절차적 패러다임을 기반으로 개발하던 많은 개발자들이 소프트웨어 생태계의 주역에서 주변으로 물러나게 되었고, 그 자리를 Java, C++ 등 객체지향 언어로 무장한 새로운 젊은 인력으로 대체되게 됩니다. 패러다임 시프트의 현장은 결코 혼란스럽지 않았습니다.

마침 시작된 인터넷 시대는 수십년간 축적된 개발 노하우를 누구나 쉽게 접근 가능하도록 공유하였고, 집단 지성을 통하여 문제를 함께 고민하고 다양한 지식을 공유하며 개발된 소스를 무료로 공개하여 대부분의 개발이 이러한 기술을 기반으로 시작할 수 있도록 하였습니다. 이러한 변화는 경험이 적은 새로운 인력에게 엄청난 개발 노하우와 각종 오픈소스를 기반으로 흔들림 없이 소프트웨어 생태계를 안정적으로 유지하면서 더 발전할 수 있도록 하는 원동력이 되었습니다

1990년대 초반부터 2000년 초반까지 진행된 소프트웨어 생태계의 패러다임 시프트의 현장은 누군가에게는 잔인한 변화를 강요했고 누군가에게는 새로운 엄청난 기회를 제공했습니다. 객체지향 패러다임으로 시작해서 인터넷의 발전 그리고 모바일로의 전환의 현장은 19세기 산업혁명의 현장에 있는 듯한 느낌을 주었고 그러한 흐름을 미리 예측한 많은 사람들은 다양한 분야에서 이제까지 없었던 새로운 비즈니스를 창업하고 이를 기반으로 막대한 부를 창출할 수 있었습니다.

이후 인터넷의 발전으로 컴퓨팅 환경은 네트워크로 이동하게 됩니다. 많은 비즈니스들이 인터넷을 기반으로 활발하게 일어나게 되고 이러한 영향으로 클라우드 컴퓨팅은 비약적으로 발전하게 됩니다. 또한, 모바일의 발전으로 인해 인류의 모든 사람들이 스마트폰으로 쏟아 내는 데이터는 기하급수적으로 늘어나게 되고 결국 또다른 패러다임 시프트의 동력으로 인류의 변화의 하단부에 차곡히 쌓이게 됩니다.

1900년대 초반부터 시작된 AI에 대한 인류의 꿈은 수번의 성공과 좌절을 경험하며 SF 영화나 드라마를 통하여 그 가능성과 희망을 인류에게 각인 시켜 왔습니다. 그리고 일반적으로 패러다임 시프트는 20년을 주기로 발생한다고 말합니다. 하지만, 그러한 패러다임의 변화가 사회에서 받아들여지고 사회를 발전시키기 위한 원동력이 되기 위해서는 실제로 적용되어 그 효과가 증명되어 인정을 받아야 합니다. 단순한 눈속임이나 반짝거리다 사라지는 것으로는 변화의 바람을 지속할 수 없기 때문입니다.

AI 기술을 비약적으로 발전시킨 딥러닝은 19세기 산업혁명 이후 볼 수 없었던 규모로 전체 산업을 변화시키고 새로운 기회를 창출하고 있습니다. 그러나 최근 몇 년 동안 딥러닝에서 획기적인 혁신이 있었지만 개발자는 실제 제품이나 라이브 서비스에 적용하려는 경우 효과적인 딥러닝 모델을 만드는 데 여전히 큰 장애물에 직면해 있습니다.

ㅤ

ㅤ

딥러닝 분야가 크게 발전하는 가운데 수천 개의 회사와 신생 기업이 이 기술에 의존하는 제품과 서비스를 개발하고 있습니다. 비즈니스 응용 프로그램을 구동하는 데 필요한 신경망 모델을 구축하려면 해당 분야에 대한 깊은 전문 지식 뿐만 아니라 모델 설계, 교육, 품질 테스트, 배포, 유지 관리, 정기 업데이트, 수정과 같은 중요한 업무에 할애하는 상당한 시간과 리소스가 필요하게 됩니다.

딥러닝 기반의 기술이 새로운 효율성을 보장한다는 점을 감안하여도 딥러닝 모델을 실제로 생성하고 배포하는 비용이 많이 들고 번거로운 적용 과정은 기술을 활용하려는 많은 조직의 골칫거리였습니다. 해결하려는 영역에 모델을 구축하기 위해서는 대규모 학습 데이터가 필요하거나 메모리와 CPU 성능이 제한된 소형 장치에서 실행해야 할 경우 문제가 더 복잡해져서 비용과 생산 기간이 모두 증가하는 문제를 야기하게 됩니다.

ㅤ

비용 절감, 지연 시간 단축

딥 러닝 모델이 제대로 작동하려면 맞춤형 하드웨어와 소프트웨어 프레임워크의 조합이 핵심입니다. 오늘날 대부분의 모델은 성능을 최적화하기 위해 계산을 병렬화하여 수천 개의 작은 컴퓨팅 코어에 계산을 분산하는 그래픽 처리 장치(GPU)에서 학습되고 실행됩니다.

추론 속도를 높이기 위해 딥러닝 엔지니어는 종종 다양한 소프트웨어 경량화 기술을 사용합니다. 가장 일반적인 방법 중에는 지연 시간을 줄이는 데 효과적으로 입증된 가중치 가지치기 및 양자화가 있지만 반대로 정확도가 떨어지는 약점을 가지고 있습니다. 앞으로 딥러닝의 혁신은 정확도를 유지하면서 추론 속도를 높이고 지연 시간을 최소화하는 최적화에 달려 있습니다.

지연 시간을 줄이고 정확도를 유지하기 위해 AI의 세계는 그것이 무엇이든 관계없이 특정 하드웨어 및 작업에 대해 모델을 최적화할 수 있는 효과적인 기술을 필요로 하며, 딥러닝 엔지니어는 가지치기 및 양자화와 같은 기존 최적화 기술과 함께 병렬로 작동하는 효율적인 알고리즘 개발이 필요하게 되었습니다.

현재까지 진행된 AI의 발전 양상과 속도를 볼 때 새로운 패러다임 시프트의 전형적인 모습을 보이고 있습니다.

새로운 인공지능 기술들이 다양한 분야의 기존 기술을 대체하거나 비약적인 발전을 이뤄내고 있습니다. 새로운 언어, 개발 방법론, SOTA 모델의 활용 그리고 새로운 인력들이 소프트웨어 연구 개발의 주역으로 새로운 패러다임을 이끌고 있습니다.

이러한 변화가 잠시 불어오는 돌풍이나 미풍이 아니라 새로운 세상으로 넘어가는 태풍의 시발점이 되기 위해서는 기술을 안정적으로 제품이나 서비스에 적용할 수 있는 가능성을 증명해야 합니다. 이러한 증명을 인공지능 기술의 플랫폼 최적화 및 경량화를 통한 제품화 및 실시간 서비스화로 연결될 수 있을 때 우리는 새로운 패러다임 시프트의 주역이었다고 당당하게 말할 수 있을 것입니다.

ㅤ

References

https://en.wikipedia.org/wiki/Paradigm_shift

https://en.wikipedia.org/wiki/Functional_programming

https://coruzant.com/ai/the-paradigm-shift-that-will-power-a-new-era-of-ai-innovation/

https://www.exorint.com/en/blog/paradigm-shifts-in-software

https://www.avenga.com/magazine/programming-paradigm-shift/