Molybdenum의 개발기록

시퀀스 데이터(Sequence data) : 시퀀스 데이터는 연관된 연속의 데이터로 순서가 있는 자료로 시계열 자료나 텍스트 자료가 대표적이다. 실제 사용하는 데이터들 중에는 시퀀스 데이터가 대부분을 차지한다.(음성인식이나 자연어 처리 etc) ex) 주가데이터, 심전도 RNN(순환신경망 : Recurrent Neural Network) : 다양한 길이의 입력 시퀀스를 처리할 수 있는 인공신경망으로 결과값을 출력층 방향으로도 보내면서 다시 은닉층 노드의 다음 계산의 입력으로 보내는 특징을 가진다. 언어모델링/음성인식/기계번역/대화모델링/질문답변/이미지·비디오 캡처/이미지·음악·동작 생성 - 유형 : 입력 갯수와 출력 갯수에 따른 유형으로 입력과 출력의 길이에 따라 달라진다. One to one : 가장 ..

2014, VGGNet : AlexNet(2012)dml 8-layers 모델보다 깊이가 2배 이상 깊은 네트워크의 학습에 성공(layer)하였다. => 이를 통해 ImageNet Challenge에서 AlexNet의 오차율을 절반(16.4 > 7.3)으로 감소하였다. 16-19개 layer와 같이 깊은 신경망 모델의 학습을 성공 => 3x3 필터를 사용했기 때문이다. layer를 깊게 쌓는 것이 VGG의 핵심이며 layer의 깊이가 어떤 영향을 주는지 6개 구조에 대한 연구로 시작되었다. 모든 합성곱층(Convolutional layer)에서 3x3필터만을 사용하는가 => 2개의 3x3 합성곱을 중첩하면 1개의 5x5 합성곱의 수용 영역과 동일하기 때문이다. 층마다 활성화 함수를 사용할 수 있어서 결정..

ML과 DL => 딥러닝 기술의 가장 큰 장점은 스스로 사물의 특징을 만들어 학습하며 이전까지 인공지능 역사가 실패했던 것은 사람이 컴퓨터에게 일일이 정해주려고 했기 때문이다. ILSVRC 이미지 인식 경진대회 : ImageNet Large Scale Visual Recognition Challenge(이미지에 대한 정확도를 겨루는 대회) 2010, 2011년 우승 알고리즘은 얕은 구조(shallow architecture) 기반으로 이미지 인식에 유용할만한 특성을 개발자들이 임의로 결정해서 도출 => 지식이 늘어나면 지식끼리 서로 모순되거나 일관되지 않는 문제 발생 2012년 CNN 기반 딥러닝 알고리즘 AlexNet이 우승 이후 깊은 구조(deep architecture)를 가진 알고리즘들이 우승을 ..

딥러닝 학습방법 1) 적절한 네트워크 선택 - 구조(struncture) : 입력값의 형태 - 비선형성(nonlinearity) 획득방법 : ReLu vs tanh, etc 2) gradient 확인 : 네트워크 구축 시 그래디언트 설정이 잘 되었는지 확인 3) 학습 파라미터 초기화 : 초기화 방법에도 여러가지가 있으므로 적절히 선택한다. 4) 학습 파라미터 최적화 : 경사하강법(GD, SGD, Adam 등) 5) 과적합 방지 : 드롭아웃, 정규화 등 출력층에서 활성화 함수 - 분류에 사용되는 활성화 함수 = Sigmoid, Softmax 함수 : 모든 입력 신호로부터 영향을 받음 - 회귀에 사용되는 활성화 함수 = 항등함수(identify function) : 계산된 값을 그대로 출력 Keras : t..

머신러닝과 딥러닝 => 인간의 개입 여부의 차이 - 머신러닝 : 인간이 직접 특징을 도출할 수 있게 설계하여 예측값을 출력한다. - 딥러닝 : 인공지능 스스로 일정 범주의 데이터를 바탕으로 공통된 특징을 도출하고, 그 특징으로 예측값을 출력한다. => 사람 같지만 보다 빠른 학습속도, 원하는 빅데이터를 학습 후 활용이 가능하다. 딥러닝 => 비정형데이터에 대한 피처를 추출할 때 알고리즘 내부에서 추출한다 1) 기본 네트워크에 대한 동작방식을 배운다. 2) 심층신경망(DNN), Fully Connected Network, Densely Connected Network 3) 합성곱신경망(CNN) => 이미지, 텍스트 다 사용 가능하지만 주로 이미지 분류에 사용한다. 4) 순환신경망(RNN) => 순서가 있는..

Dacon_구내식당식수인원예측 https://dacon.io/competitions/official/235743/overview/description 구내식당 식수 인원 예측 AI 경진대회 - DACON 분석시각화 대회 코드 공유 게시물은 내용 확인 후 좋아요(투표) 가능합니다. dacon.io 구내식당식수인원예측_날씨데이터활용 https://github.com/molybdenum-jo/Customer-Data/blob/main/number%20of%20cafeteria%20meals.ipynb GitHub - molybdenum-jo/Customer-Data Contribute to molybdenum-jo/Customer-Data development by creating an account on G..