[AI] FastAPI를 활용한 Tensorflow 모델 서빙
🔎 현재 상황AI 기반의 필적 감정 서비스를 개발하게 되었다. 검사하려는 검증물과 비교 대상인 대조물 사이의 유사도 및 필적 특징을 추출하여 제공하는 서비스이다. 내가 담당하게 된 파트는 AI 서빙이었다. 평소 AI 기반 서비스가 어떻게 이루어지는지 많이 궁금하였고 이 참에 공부해보는 것도 좋겠다고 생각했다. 🤔 기술적 고민현재 제공하는 AI 서빙 방법은 총 3가지이다.웹 서버 프레임워크로 직접 서빙하기TensorFlow Serving 이용하기NVIDIA Triton카카오 테크 블로그에서 비교된 아티클을 발견하여 참고하였다.https://tech.kakaopay.com/post/model-serving-framework/“FastAPI와 TensorFlowServing, Trioton과의 가장 큰 차..