Handler 2
-
Serving Model에서 define inference를 구현한다. handle 요청 정보를 받아 적절한 응답을 반환 - 정의된 양식으로 데이터의 입력이 왔는지 확인 - 입력값에 대한 전처리 및 모델에 입력할 수 있는 형태로 변환 - 모델추론 - 모델 반환값 후처리 - 결과 반환 model.py에 핸들러 부분이 있다. 기본적인 핸들러는 있지만 밑에 스켈레톤 코드를 작성해 보려고 한다. 핸들러의 이 부분은 데이터 인풋 값 model_input을 전처리 하고, 전처리 후의 데이터를 inference하고 나온 output 데이터를 후처리기에 넣어서 반환한다. initialize 데이터 처리나 모델, configuration을 초기화 한다. - Configuration 등 초기화 - (Optional) 신경..
-
API 아키텍쳐 AWS EC2와 Python Flask 기반으로 모델 학습 및 추론을 요청/응답하는 API 서버 개발 Interface - 사용자가 소프트웨어 제어를 위해 인터페이스를 정해진 메뉴얼로 활용 ex) 마우스, 키보드, 모니터, 프린터.. - 적절한 입력으로 적절한 출력 제공 API Application Programming Interface - 기계와 기계, 소프트웨어와 소프트웨어 간의 커뮤니케이션을 위한 인터페이스 머신러닝, 딥러닝의 RESTful API REST 아키텍쳐를 따라 구현한 API 독립적인 HTTP로 구성된 요청과 반환으로 이루어진 설계 데이터 값을 담아 요청하고, 결과를 json형태로 반환 요청 메시지로 어떤 내용이 있는지 표현 가능 API는 Trained Model File..
