안녕하세요,
송준서입니다.

학습 시 정답 토큰이 누락되어 모델이 정답 패턴을 학습하지 못하는 구조적 문제를 발견했습니다. Assistant 메시지에 정답을 포함하고 add_generation_prompt=False로 전환하여 정답 토큰 위치를 정확히 학습시켰고, 이것만으로 정확도가 크게 향상되었습니다.

T4 GPU에서 BFloat16 미지원 및 OOM 문제가 발생했습니다. Float16 전환, FlashAttention 대신 SDPA Attention 적용, 4-bit QLoRA + Gradient Checkpointing + Batch Size 1 + Gradient Accumulation 4 조합으로 메모리 효율을 확보했습니다.

단일 모델의 과적합과 성능 편차 문제를 Stratified K-Fold, EMA/SWA, TTA, Majority Voting 앙상블로 해결하여 최종 정확도 0.94를 달성했습니다.

농산물 데이터가 비정형적이고 카테고리·단위·명칭이 통일되지 않아 추천 모델의 정확도가 낮았습니다. 데이터 정규화 파이프라인을 구축하고 카테고리 매핑 로직을 설계하여 모델 입력 품질을 개선했습니다.

신규 사용자의 행동 로그가 부족해 개인화 추천이 작동하지 않는 문제가 있었습니다. 인기 기반 추천과 레시피 Gap filling 모델을 결합한 4개 모델 앙상블 구조를 설계하여, 행동 데이터가 없는 사용자에게도 의미 있는 추천을 제공했습니다.

GPT-4o-mini 기반 챗봇에서 SSE 스트리밍 응답 시 연결 끊김과 타임아웃 문제가 발생했습니다. FormData 전송 지원, 120초 타임아웃 설정, 멀티모달(이미지/PDF) 첨부 처리를 구현하고, Elasticsearch 검색 결과를 컨텍스트로 활용하는 하이브리드 검색 파이프라인을 구축했습니다.

사전 집계 스냅샷이 누락된 구간의 통계 데이터가 비어 표시되는 문제가 있었습니다. 기사 원천 데이터에서 실시간으로 리포트를 생성하는 AdminReportQueryService를 구현하고, 시간별(hourly) 24슬롯 데이터와 기간별(일/주/월/연) 리포트를 지원하는 fallback 로직을 설계했습니다.