딥러닝 현황 및 동향

포럼

활동

채용

특별 주제

CSDN 앱 열기

블로그/게시물/사용자 검색

로그인

간장을 좋아하는 늙은 새

팔로우

딥러닝 기술 발전 동향에 대한 간략한 분석 및 재인쇄

2019-04-09 08:37:11

1 like

간장 만들기를 좋아하는 베테랑

코딩 경력 2년

팔로우

/s/FtIhKiENv483iHE053RPkg

현재 인공지능 개발은 딥러닝 기술의 혁신을 통해 포괄적인 관심과 지원을 받고 있으며, 각국 정부는 이에 큰 중요성을 부여하고 있으며, 자본 붐은 여전히 증가하고 있으며, 각계각층도 성장하고 있습니다. 개발 핫스팟이 되었다는 데 동의합니다. 이 글의 목적은 딥러닝 기술의 현황을 분석하고, 딥러닝의 발전 동향을 판단하며, 우리나라의 기술 수준에 따른 개발 제안을 제시하는 것입니다.

1. 딥러닝 기술 현황

딥러닝은 이번 인공지능 폭발의 핵심 기술입니다. 컴퓨터 비전과 자연어 처리 분야에서 인공지능 기술이 이룩한 획기적인 발전은 인공지능의 폭발적인 발전의 새로운 국면을 열었습니다. 딥러닝은 이러한 혁신을 달성하기 위한 핵심 기술입니다. 그 중 심층 컨벌루션 네트워크를 기반으로 한 이미지 분류 기술은 인간의 눈의 정확도를 넘어섰고, 심층 신경망을 기반으로 한 음성 인식 기술은 정확도 95%에 도달했으며, 심층 신경망을 기반으로 한 기계 번역 기술은 인간의 눈의 정확도에 근접했습니다. 평균 인간 번역 수준. 정확도가 크게 향상됨에 따라 컴퓨터 비전과 자연어 처리가 산업화 단계에 진입하여 새로운 산업이 탄생하게 되었습니다.

딥러닝은 빅데이터 시대의 알고리즘 도구로 최근 몇 년간 연구 핫스팟으로 떠올랐습니다. 기존의 기계 학습 알고리즘과 비교하여 딥 러닝 기술에는 두 가지 장점이 있습니다. 첫째, 딥러닝 기술은 데이터의 크기가 커질수록 지속적으로 성능을 향상시킬 수 있는 반면, 기존의 머신러닝 알고리즘은 대용량 데이터를 활용해 지속적으로 성능을 향상시키기가 어렵습니다. 둘째, 딥러닝 기술은 데이터에서 직접 특징을 추출할 수 있어 각 문제에 대한 특징 추출기 설계 작업을 줄여줍니다. 기존 머신러닝 알고리즘은 수동으로 특징을 추출해야 합니다. 이에 딥러닝은 빅데이터 시대의 화두 기술로 자리 잡았으며, 학계와 산업계 모두 딥러닝에 대한 많은 연구와 실무를 진행해왔습니다.

다양한 딥 러닝 모델이 기본 애플리케이션을 완벽하게 지원합니다. 컨벌루션 신경망과 순환 신경망은 널리 사용되는 두 가지 유형의 심층 신경망 모델입니다. 컴퓨터 비전과 자연어 처리는 인공 지능의 두 가지 기본 응용 프로그램입니다. 컨벌루션 신경망은 컴퓨터 비전 분야에서 널리 사용되며 이미지 분류, 대상 감지, 의미론적 분할과 같은 작업에서 성능이 기존 방법을 크게 뛰어넘습니다. 순환 신경망은 시퀀스 정보와 관련된 문제를 해결하는 데 적합하며 음성 인식, 기계 번역, 대화 시스템 등 자연어 처리 분야에서 널리 사용되었습니다.

2. 딥러닝의 발전 추세

심층 신경망은 계층이 점점 더 깊어지고 구조가 복잡해지는 추세를 보입니다. 심층 신경망의 성능을 지속적으로 개선하기 위해 업계에서는 네트워크 깊이와 네트워크 구조를 지속적으로 탐색하고 있습니다. 신경망의 레이어 수는 수백, 심지어 수천 레이어로 확장되었습니다. 네트워크 레이어 수가 계속해서 심화되면서 학습 효과도 점점 더 좋아지고 있습니다. Microsoft가 2015년에 제안한 ResNet은 152 레이어의 네트워크 깊이를 가지고 있습니다. 이미지 분류 작업의 정확도가 처음으로 인간의 눈의 정확도를 넘어섰습니다. 새로운 네트워크 설계 구조가 지속적으로 제안되어 신경망의 구조가 점점 더 복잡해지고 있습니다. 예를 들어 Google은 2014년에 Inception 네트워크 구조를 제안했고, Microsoft는 2015년에 Residual 네트워크 구조를 제안했으며, Huang Gao 등은 2016년에 조밀하게 연결된 네트워크 구조를 제안했습니다. 이러한 네트워크 구조 설계는 심층 신경망의 성능을 지속적으로 향상시켜 왔습니다.

심층 신경망 노드의 기능은 지속적으로 풍부해집니다. 현재 신경망의 한계를 극복하기 위해 업계에서는 새로운 신경망 노드를 탐색하고 제안하여 신경망을 더욱 기능적으로 만들어 왔습니다. 2017년 Jeffrey Hinton은 캡슐을 네트워크 노드로 사용하는 캡슐 네트워크 개념을 제안했습니다. 이는 이론적으로 인간 두뇌의 행동에 더 가깝고 공간 계층화 및 추론 능력 부족과 같은 컨벌루션 신경망의 한계를 극복하는 것을 목표로 합니다.

2018년 딥마인드(DeepMind), 구글 브레인(Google Brain), MIT의 학자들은 인과 추론을 통해 딥 러닝에 힘을 실어주는 것을 목표로 그래프 네트워크 개념을 공동으로 제안하고 관계형 귀납 편향 기능을 갖춘 새로운 유형의 모듈을 정의했습니다.

심층 신경망의 공학적 응용 기술은 계속해서 심화되고 있습니다. 대부분의 심층신경망 모델은 수억 개의 매개변수를 갖고 수백 메가바이트의 공간을 차지하며, 많은 양의 계산이 필요하고 스마트폰, 카메라, 웨어러블 기기 등 성능과 리소스가 제한된 단말 장치에 배포하기가 어렵습니다. 이 문제를 해결하기 위해 업계에서는 모델 압축 기술을 사용하여 모델 매개변수의 양과 크기를 줄이고 계산량을 줄입니다. 현재 사용되는 모델 압축 방법에는 이미 훈련된 모델 가지치기(가지치기, 가중치 공유, 양자화 등)와 보다 정교한 모델 설계(MobileNet 등)가 포함됩니다. 딥러닝 알고리즘의 모델링과 매개변수 조정 과정은 번거롭고 적용 임계값도 높습니다. 딥러닝의 적용 문턱을 낮추기 위해 업계에서는 심층신경망의 자동화된 설계를 구현하고 사용 과정을 단순화할 수 있는 자동화된 기계학습(AutoML) 기술을 제안해왔다.