안녕하세요, 다제입니다. 오늘은 머신러닝에서 미분의 중요성을 이해하고, 근본적인 이해부터 실질적인 응용까지 모델을 최적화 방법을 알아보고자해요. 머신러닝의 세계로 여러분을 안내하면서, 이 분야에서 필수적인 개념인 ‘미분’에 대해 논의해 보려고 합니다. 조금 더 구체적으로는 ‘미분이 머신러닝에서 왜 중요한가?’, ‘미분이란 구체적으로 무엇인가?’ 이 두 가지 주요 질문을 중심으로 살펴볼 예정입니다. 머신러닝 전문가의 시각에서 정확하고 깊이 있는 정보를 제공해 드리겠습니다.
오늘 소개해 드릴 재미있는 AI 기술은 embedchain입니다. 실제 사용 예시 코드를 코랩으로 준비하였습니다. 또한, 배포했던 이미지도 함께 스샷으로 찍어두었으니, 다들 직접 실습해보시고, 배포까지 해보시면 좋을 거 같습니다. LLM을 사용하여 RAG(검색 증강 생성) 애플리케이션을 구축하는 방법을 알아보고자 합니다. 지금까지 RAG 애플리케이션은 AI 혁명의 가장 유용한 결과입니다. 아마 내년쯤에는 훨씬 더 큰 발전을 볼 수 있을 것입니다.
Attention Sinks로 더 많이 소개되고 있는 논문 : Efficient Streaming Language Models with Attention Sinks(feat. text of infinite length without fine-tuning)에 대해서 오늘은 한번 알아보고자 해요. 어떤 문제를 해결하고 싶었고, 어떻게 아이디어 발견하였고, 수식과 코드까지 어떻게 연결되었는지 한 큐에 설명드릴테니 잘 따라오셔요! 기존 문제점 mit-han-lab의 영상 중 왼쪽 영상처럼 KV Cache보다 긴 문장을 생성하다보면, 모델이 튀어
당신이 인공지능(AI) 및 자연어 처리(NLP)에 관심이 있다면, 이 블로그 포스트는 당신을 위한 것입니다. 그동안 자연어 처리의 강력함과 영향력을 알리기 위해 취했던 여정에서, 오늘날 우리는 두 가지 놀라운 도구, Langsmith와 Auto-eval에 대해 소개하게 되어 기쁩니다. Langsmith는 최신 언어 모델의 잠재력을 해방시키는 플랫폼으로, 연구자들과 개발자들이 더 깊고 창조적인 방식으로 AI와 상호작용할 수 있는 다양한 기능을 제공합니다. 이는