![]()
[전편] 53. GPU 지원 53. 모델 저장 및 읽어오기 54. 드롭아웃과 테스트 모드 55. CNN 메커니즘(1) 56. CNN 메커니즘(2) ------------------------------------------------------- [후편] 57. conv2d 함수와 pooling 함수 58. 대표적인 CNN(VGG16) 59. RNN을 활용한 시계열 데이터 처리 60. LSTM과 데이터 로더 부록 57. conv2d 함수와 pooling 함수 * NOTE DeZero에서는 신경망 변환 처리를 '함수'로 구현 매개변수를 갖는 계층은 Layer 클래스를 상속받아 매개변수 관리 맡김 > 합성곱층에서의 처리를 conv2d 함수로 구현 > Layer 클래스를 상속한 Conv2d 계층 구현 > 풀링..
![]()
[전편] 53. GPU 지원 53. 모델 저장 및 읽어오기 54. 드롭아웃과 테스트 모드 55. CNN 메커니즘(1) 56. CNN 메커니즘(2) ------------------------------------------------------- [후편] 57. conv2d 함수와 pooling 함수 58. 대표적인 CNN(VGG16) 59. RNN을 활용한 시계열 데이터 처리 60. LSTM과 데이터 로더 부록 52. GPU 지원 딥러닝 계산은 '행렬의 곱'이 대부분을 차지 행렬의 곱은 곱셈과 덧셈으로 구성 → 병렬 계산 가능 → GPU 구현 * CAUTION GPU에서 실행하기 위해서는 엔비디아(NVIDIA)의 GPU와 쿠파이(CuPy)라는 파이썬 라이브러리가 필요 52.1 쿠파이 설피 및 사용 방법..
![]()
[전편] 37. 텐서를 다루다 38. 형상 변환 함수 39. 합계 함수 40. 브로드캐스트 함수 41. 행렬의 곱 42. 선형 회귀 43. 신경망 ------------------------------------------------------- [후편] 44. 매개변수를 모아두는 계층 45. 계층을 모아두는 계층 46. Optimizer로 수행하는 매개변수 갱신 47. 소프트맥스 함수와 교차 엔트로피 오차 48. 다중 클래스 분류 49. Dataset 클래스와 전처리 50. 미니배치를 뽑아주는 DataLoader 51. MNIST 학습 칼럼 44. 매개변수를 모아두는 계층 '사용 편의성' 면에서 몇 가지 문제 매개변수 담는 구조를 만들자 → Parameter & Layer 클래스 이 두 클래스로 매개변..
![]()
[전편] 37. 텐서를 다루다 38. 형상 변환 함수 39. 합계 함수 40. 브로드캐스트 함수 41. 행렬의 곱 42. 선형 회귀 43. 신경망 ------------------------------------------------------- [후편] 44. 매개변수를 모아두는 계층 45. 계층을 모아두는 계층 46. Optimizer로 수행하는 매개변수 갱신 47. 소프트맥스 함수와 교차 엔트로피 오차 48. 다중 클래스 분류 49. Dataset 클래스와 전처리 50. 미니배치를 뽑아주는 DataLoader 51. MNIST 학습 37. 텐서를 다루다 머신러닝 데이터로 벡터나 행렬 등의 '텐서'가 주로 쓰임 37.1 원소별 계산 지금까지 함수 구현은 입출력 '스칼라'로 가정 (ex. sin 함수)..
![]()
31. 고차 미분(준비 편) 32. 고차 미분(이론 편) 33. 고차 미분(구현 편) 33. 뉴턴 방법으로 푸는 최적화(자동 계산) 34. sin 함수 고차 미분 35. 고차 미분 계산 그래프 36. 고차 미분 이외의 용도 31. 고차 미분(준비 편) DeZero 구현의 요점 계산의 '연결'은 Function 클래스의 __call__ 메서드에서 만들어짐 구체적인 순전파와 역전파 계산은 Function 클래스를 상속한 클래스의 forward 메서드와 backward 메서드로 처리 주목 : 계산 그래프의 '연결'이 만들어지는 시점 = 순전파를 계산할 때! 역전파를 계산할 때는 만들어지지 않음 → 문제의 핵심 31.1 역전파 계산 역전파를 계산할 때도 '연결'이 만들어진다면, 고차 미분을 자동으로 계산할 수 ..
![]()
25. 계산 그래프 시각화(1) * NOTE 계산 그래프를 시각화하면 문제가 발생했을 때 원인이 되는 부분을 파악하기 쉬어짐 더 나은 계산 방법 발견할 수 있음 신경망 구조를 3자에게 시각적으로 전달하는 용도 시각화 도구는 외부 자원 Graphviz를 활용, 사용법에 대해 알아보자! 25.1 Graphviz 설치하기 그래프를 시각화해주는 도구 * 그래프 : 계산 그래프와 같이 노드와 화살표로 이뤄진 데이터 구조 설치 명령어 # maxOS, Homebrew 사용 brew install praphviz # 우분투 sudo apt install graphviz # 실행 테스트 dot -V >>> dot - graphviz version 2.40.1 (20161225.0304) dot 명령의 사용법 dot sa..
