카페검색 본문
테이블글 본문
정확도순
-
구글이 MedGemma 의료 다모달 딥러닝 기술 분석, 훈련 데이터, 최적화 방법, 성능 평가를 오픈소스로 공개했습니다. 2025.08.25
그룹 쿼리 주의(Grouped-Query Attention, GQA) 메커니즘을 채택했습니다 30. ●정규화: 후처리 정규화(post-norm)와 사전 처리 정규화(pre-norm)를 사용하며, RMSNorm과 결합했습니다. 또한 Gemma 2의 소프트 캡핑(soft-capping) 메커니즘을 QK-norm으로...
