사람과 동물의 학습, 기계 학습

인공지능

인간의 학습, 추론, 지각, 자연언어 이해 등의 지능적 능력을 기기로 실현

 

학습

경험의 결과로 나타나는, 비교적 지속적인 행동의 변화나 그 잠재력의 변화, 또는 지식을 습득하는 과정

 

기계학습

Programming computers to learn from experience should eventually eliminate the need for much of this detailed programming effort

컴퓨터가 경험을 통해 학습할 수 있도록 프로그래밍 할 수 있다면, 세세하게 프로그래밍 해야 하는 번거로움에서 벗어날 수 있다.

samuel 1959

 

기계학습의 현대적 정의

A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E

어떤 프로그램이 T라는 작업을 수행하고, 이 프로그램의 성능을 P라는 척도로 평가할때 경험 E를 통해 성능이 개선된다면 이 프로그램은 학습을 한다고 말할 수 있다.

Mitchell 1997

 

최적의 프로그램(알고리즘)을 찾는 행위 

E*T =P

경험과 작업을 통해 성능의 향상

 

Programming computers to optimize a performance criterion using example data or past experience

사례 데이터, 즉 과겨 경험을 통해 성능 기준을 최적화 하도록 프로그래밍 하는 작업

Alpaydin 2010

 

Computational methods using experience to improve performance of to make accurate predictions

성능을 개선하거나 정확하게 예측하기 위해 경험을 이용하는 계산학 방법들 

Mohri 2012

Traditional programming	input, program	computation	results
ML	input, desired result	computation	program

 

 

초창기 지식 기반의 방식에서 기계학습으로 전환

- 경험적인 지식 혹은 사실을 인위적으로 컴퓨터에 부여하여 학습

- 지식 기반의 한계, 학습의 대상이 심한 변화 양상을 보이는 경우에 모든 지식이나 사실의 나열이 불가능

 

지식기반

기계학습 ML

심층학습 DL 표현학습 representation learning

 

기계학습의 데이터 중심 접근방식으로 전환

 

 

ex) 이동체의 위치를 시간변화에 따라서 예측하는 기계학습

예측

- 회귀 regression, 목표치가 실수

- 분류 classification, 부류 혹은 종류

 

이동체의 위치는 x값에 따른 연속된 y값의 예측하는 회귀문제

 

훈련데이터 집합 training set

x값과 y값이전까지의 데이터입력과 출력값

 

관찰된 데이터를 설명하는 가설을 세운다.

 

모델의 데이터 양상이 직선 형태로 보임

모델을 직선으로 설정

y = wx+b

 

훈련 train

예측을 가장 정확하게 설명하는 최적의 매개변수를 찾는 작업

임의의 매개변수로 시작해서, 개선하며 정량적인 최적 성능 performance에 도달

오차를 줄여나간다.

 

훈련을 마치고

추론 inference

w와 b값을 통해

새로운 특징에 대응되는 목표치의 예측에 사용

 

훈련집합에 없는 새로운 데이터에 대한 오류를 최소화 한다.

 

일반화 generalization 능력

테스트 집합에 대한 성능

 

기계학습의 요소

- 데이터

- 데이터 사이의 규칙 존재

- 수학적으로 설명이 불가능

 

	사람학습	기계학습
학습과정	능동적	수동적
데이터 형식	자연에 존재하는 그대로	일정한 형식
동시에 학습 가능한 태스크	여러 태스크	하나의 태스크
학습 원리에 대한 지식	제한적	모든 과정이 밝혀짐
수학 의존도	낮음	높음
성능평가	주관적	객관적
역사	인류의 역사	약 60년