전체 글55 NTN으로 시작하는 자연어처리와 딥러닝 (0) - 들어가기 앞서 『NTN으로 시작하는 자연어처리와 딥러닝』 왜 NTN으로 NLP와 Deep Learning인가? NTN은 Neural Tensor Network의 약자로 스탠포드 대학교 교수인 Richard Socher (2013)가 "Reasoning With Neural Tensor Networks for Knowledge Base Completion"에서 지식을 넘어선 추론(Reasoning Over Knowledge)을 위해 제시한 딥러닝 모델입니다. 1) NTN은 자연어처리와 딥러닝의 교집합2) Word Vector Representation 이해에 도움3) Neural Network 이해에 도움 1. NTN은 자연어처리와 딥러닝의 교집합이다NTN 모델에서 다루는 주요 주제는 Question Answering과.. 2018. 2. 6. 머신러닝 기초 (4) - 데이터 전처리 with Pandas 가천대 최성철 교수님의 '밑바닥부터 시작하는 머신러닝 입문'을 수강하며 노트 필기 및 추가 내용 작성을 목적으로 포스팅합니다. Pandas를 사용하면 엑셀의 스프레드시트나 SQL의 테이블을 사용하듯이 파이썬에서 데이터를 다루는 것처럼 소개하였는데 이전 시간에는 이런 내용을 별로 다루지 않았습니다. Pandas 그 자체에 대해서 파이썬의 관점에서 주로 다루었던 것 같습니다. map 함수나 기타 방법을 통해서 변수를 변환하고 데이터 처리 작업을 하는 것은 일반적으로 우리가 사용하는 방법과는 거리가 멀었던 것은 사실입니다. 이번에는 SQL에서 많이 사용하는 group by 나 merge(JOIN 과 같습니다.), concat(UNION 과 비슷합니다) 같은 Pandas DataFrame의 메소드를 배우게 됩니.. 2018. 1. 27. 머신러닝 기초 (3) - Pandas 복습 가천대 최성철 교수님의 '밑바닥부터 시작하는 머신러닝 입문'을 수강하며 노트 필기 및 추가 내용 작성을 목적으로 포스팅합니다. 이번에 다루는 Pandas는 Python의 엑셀 버전이라고 볼 수 있는데 많은 기능적인 부분들이 엑셀 스프레드시트를 다루는 것과 비슷하고 또 R의 데이터프레임의 개념을 가져왔기 때문에 실제 사용하는 함수나 기능들이 상당히 유사합니다. 그리고 Pandas의 내부적 자료구조는 NumPy로 되어있기 때문에 일부분 많은 것을 NumPy의 그것을 공유합니다. 2017/12/06 - 파이썬으로 데이터분석하자 (4) - Pandas 기본 강의 내용 중에 교수님의 본인의 코드 스타일이 드러나는데 가끔 꿀팁들이 나와 정말 유용하게 사용할 수 있었습니다. apply나 map을 메소드로 하여 사용할.. 2018. 1. 22. 머신러닝 기초 (2) - NumPy 복습 가천대 최성철 교수님의 '밑바닥부터 시작하는 머신러닝 입문'을 수강하며 노트 필기 및 추가 내용 작성을 목적으로 포스팅합니다. 다른 포스팅에서 다루었던 NumPy에 대한 내용이지만 강의를 들으면서 참고할만한 팁(?) 같은 것들을 메모할 것들이 있었고 복습할 요량으로 되짚어 보기 위해서 정리하려고 합니다. NumPy는 딥러닝 프레임 워크에서도 데이터 타입의 표준으로 사용되고 있기 때문에 기본이 되는 것으로 꼭 알아야 합니다. NumPy에서 자주 사용하는 함수나 핵심내용에 대해서 아래 포스팅에서 정리해두었으니 참고하실 수 있습니다. 2017/10/09 - 파이썬으로 데이터 분석하자 (3) - NumPy 기본 Chapter 3. NumPy Section머신러닝 기초(2) - NumPy 복습 왜 NumPy 인가.. 2018. 1. 22. 머신러닝 기초 (1) - 데이터 이해하기 가천대 최성철 교수님의 '밑바닥부터 시작하는 머신러닝 입문'을 수강하며 노트 필기를 목적으로 포스팅합니다. 예전에 심심해서 유투브에서 우연히 파이썬을 가르치시는 동영상을 봤는데 핵심적인 꼭 필요한 내용들을 쉽게 전달하는 것을 보고 관심을 갖고 있다가 또 우연히(!) 와디즈에서 크라우드 펀딩으로 강좌를 여는 것을 보고 바로 지르게 되었습니다... 복습할 목적으로 강의를 들으면서 다시 보고 싶은 내용을 정리하려고 합니다. 아직까지는 크게 배우는 내용이없어서 조금씩 정리하고 싶은 내용만 정리할 것 같습니다. Chapter 2. An Understanding of Data머신러닝 기초(1) - 데이터 이해하기 데이터의 타입에 따라서 문제가 생길 수 있는데...데이터의 최대/최수가 달라 scale에 따라서 y 값.. 2018. 1. 19. 문과생을 위한 딥러닝 수학 - 기본편 (4) 절댓값 함수, 가우스 함수 절댓값 함수는 벡터 공간에서 두 점 간의 거리를 계산할 때 절댓값을 이용해서 계산했던 것이 기억이 났고, 가우스 함수는 초기 인공신경망 모형에서 (단순 퍼셉트론) 활성화함수로 계단 함수가 사용되었는데 그것과 같았다. 다만 구간의 차이였을 뿐.. 문과생을 위한 딥러닝 수학 - 기본편 (4)절댓값 함수, 가우스 함수 7. 절댓값 함수1) 절댓값절댓값은 원점과의 거리의 개념이 있다. 2) 절댓값 성질|A| = |B|a. A>0, B>0 A = Bb. A>0, B 2018. 1. 11. 문과생을 위한 딥러닝 수학 - 기본편 (3) 유리함수, 무리함수 또 시그모이드 함수가 예로 나온다. 유리함수는 시그모이드 함수 같이 분모에 x라는 미지수가 들어있는 다항식 형태로 되어있는 함수가 있다. 분수함수라고도 한다는데 미분과 극학에서 많이 사용된다고 한다. 문과생을 위한 딥러닝 수학 - 기본편 (3)유리함수, 무리함수 5. 유리함수1) 유리함수 정의분수함수는 분모가 다항식의 형태로 되어 있다.유리함수 중에는 분모에 미지수가 들어가 있는 분수 함수 등이 포함된다. 그리고 이는 미분과 극한에 많이 사용된다. 극한은 어디에 가까워지냐고 했을 때 lm 1/x = 0 x는 0에 가까워진다고 할 수 있다. 2) 유리함수 수직 점근선, 사점근선 이런 그래프는 살면서 처음본다.... 미분 할 때 많이 보게 될 그래프라고한다....;; 6. 무리함수1) 무리함수 정의root를.. 2018. 1. 10. 문과생을 위한 딥러닝 수학 - 기본편 (2) 지수함수, 로그함수 딥러닝 신경망 학습에서 시그모이드 함수(Sigmoid Function)를 활성화함수로 사용한다. 시그모이드 함수는 1/1+exp(-x) 로 나타나는데 여기서 exp(-x) exponential function으로 자연상수e(약2.71)에 대한 지수함수를 의미한다. exp(-2)일 경우 약 2.71의 제곱.. 시그모이드 함수의 사용 이유는 비선형적으로 출력값을 매끄럽게 하기 위한 것이며 자세한 내용은 지난 포스팅을 참고하면 된다. 왜 밑을 e인 자연로그함수를 사용하는가 하냐면 큰 수의 복잡한 계산을 할 때 계산을 단수화하기 위해서 사용된다. 특히 자연로그를 사용했을 때 미적분의 계산이 간편하다고 한다. 기울기를 계산하거나 오차역전파에 대한 계산을 할 때 미분을 사용한다.자연로그(ln)의 역함수는 지수함수인.. 2018. 1. 8. 문과생도 이해하는 딥러닝 (11) - 가중치 감소, 드롭아웃 2017/09/27 - 문과생도 이해하는 딥러닝 (1) - 퍼셉트론 Perceptron2017/10/18 - 문과생도 이해하는 딥러닝 (2) - 신경망 Neural Network2017/10/25 - 문과생도 이해하는 딥러닝 (3) - 오차 역전파, 경사하강법2017/12/24 - 문과생도 이해하는 딥러닝 (4) - 신경망구현, 활성화함수, 배치2017/12/26 - 문과생도 이해하는 딥러닝 (5) - 신경망 학습 실습2018/01/05 - 문과생도 이해하는 딥러닝 (6) - 오차역전파법 실습 12018/01/05 - 문과생도 이해하는 딥러닝 (7) - 오차역전파법 실습 22018/01/07 - 문과생도 이해하는 딥러닝 (8) - 신경망 학습 최적화2018/01/07 - 문과생도 이해하는 딥러닝 (9) .. 2018. 1. 7. 이전 1 2 3 4 5 ··· 7 다음
