[특강] 서비스 항 AI모델 개발

서비스 향 AI 모델 개발하기

강사: 이활석 (현) Upstage CTO, (전) 네이버 클로바 임원

 

AI 커리어로 전환, 전문가가 된 과정

• 비디오 코덱으로 카이스트에서 박사학위
• Samsung Techwin을 다니면서 전통 Computer Vision 기술을 CCTV 동영상에 적용
• 15년도 3월에 딥마인드 논문을 보고 AI를 공부하기 시작
• AI에 집중하기 위해 이직
• 일대일 대전을 위한 봇 개발을 시작으로 게임 개발 효율성을 위한 생성 모델 연구
• 스타일 변환
• 오토인코데의 모든 것 강의 제작
• 생성 모델 전체를 텐서플로우로 구현한 레포가 주목을 많이 받음
• 레딧 1등
• 구글과 콜라보
• 더 많은 고객에게 AI 서비스를 제공하기 위해 네이버로 이직
• OCR이라는 분야를 밑바닥부터 기술을 끌어올림(논문 11편 작성)
• OCR 세계 대회에서 1등 해봄
• 국내외 수십 여 서비스 개발까지 하며 공로를 인정받음
• Upstage 창업

서비스 향 AI 모델 개발 VS 수업/학교/연구 AI 모델 개발

• Academic 에서는 정해진 데이터셋/평가 방식에서 더 좋은 모델을 찾는 일을 한다.
• 서비스 개발 시에는 학습 데이터도 없고 테스트 데이터셋과 테스트 방법 등 주어진 것이 아무것도 없다.
• 단 하나, 서비스 개발 시 서비스 요구 사항만 있다.
• 서비스 개발 시 첫 번째로 해야할 일은 학습 데이터셋을 준비하는 것이다.
• 서비스 요구사항을 조건으로 한 학습 데이터셋의 종류/수량/정답도 스스로 정해야한다.
• 서비스 요구사항도 사람이 하기 때문에 깜빡하고 전해주지 못한 것도 있을 수 있다. 그런 것들도 한 번 생각해보며 서비스 기획팀에게 문의를 해가며 만들어야 한다.
• 테스트 데이터셋은 학습 데이터셋에서 일부 사용한다 하고 서비스 요구사항으로부터 테스트 방법을 도출해야 한다.
• 모델의 정확도만 가지고 이 분야에 AI를 적용해도 된다고 할 수 있다고 할 수는 없다. (예로들면 어느 게임이 있는데 이동키는 Rule에 의해서 동작하고, skill사용만 AI가 한다고 가정하자. 이 AI를 학습시키기 위해서 프로게이머들의 로글르 받아서 AI를 학습시켰다고 하자. 그 결과 모델의 분류 정확도가 99%가 나왔다고 하자. 이 AI 모델을 실제 사용자와 대전을 붙였을 경우 결과가 잘 나왔을 거라고 생각하지만  실제로는 완패를 했다. 이유는 프로게이머들은 스킬 사용을 많이 안쓰고 아껴서 적재적소에만 사용하기 때문에 스킬 사용 횟수가 안쓰는 시간보다 훨씬 적기 때문에 거의 사용하지 않는다. 따라서 모델의 정확도는 99%이지만 실제 승률은 0%가 나온다. 따라서 이러한 오류를 해결하기 위해 서비스 적용 전 성능 평가에서 각 후보 AI모델에 대한 면밀 분석 후 서비스 출시 버전 선택이 필요하고 서비스 적용 시 성능 평가를 할 때 VOC(Voice Of Customer)가 중요함을 알 수 있다.

 

서비스 향 AI 모델 개발 기술팀의 조직 구성

 (1) AI 모델팀

   ① AI 모델 개발

   ② 데이터를 준비하고 품질을 관리

   ③ 업무의 효율성을 위한 툴을 개발

   ④ 전체를 총괄하여 모델읭 품질을 관리

  (2) AI 모델 서빙팀

   ① 모델을 최적화하는 인력

   ② 모델을 서빙하기 위한 추가 작업을 하는 인력

 

 조언

  Model Engineering/ Tool/ Serving은 개발력이 많이 필요한 일이고 점차 니즈가 많아질 것이므로 너무 한번에 AI 모델링 쪽으로 넘어가지 말고 자신이 원래 하던거에서 살을 붙이는 식으로 가는 것을 추천하셨다. 따라서 한 분야의 모델링에 대한 전문성도 중요하지만 점차 업무들이 모두 자동화되고 관련 인력 수도 늘어나니 주변으로 역량을 확대하는 식을 추천하셨다. AI는 하루 하루 기술 발전 속도가 다른 기술에 비해 훨씬 빠르고 기술 뿐만 아니라 둘러싼 많은 것들도 빠르게 변하므로 이것을 빨리 받아들이고 어떻게 하면 효율적으로 변화에 적응할 지 고민을 하는 습관이 필요하다고 하셨다.

 

AI 분야가 점차 넓어지고 빠르게 팽창하고 있어서 마음이 급해지기 쉬운데 현재에는 기본기를 탄탄하게 하는게 중요할 것 같다. 그리고 부지런하게 논문을 읽어 최신 논문을 읽을 수 있는 역량을 갖출 수 있도록 노력해야겠다.