AI, 머신러닝, 딥러닝, LLM최근에는 AI를 이용해 코드를 작성하거나 문서를 정리하는 일이 꽤 익숙해졌다.이전에도 이야기했듯이 개발 과정에서 Agent의 도움을 받는 경우가 많아지면서, AI가 어떻게 동작하는지도 조금씩constant1601.tistory.com이전 글에서는 AI, 머신러닝, 딥러닝과 LLM이 어떤 관계인지 알아보았다.그중 머신러닝에서는 데이터를 통해 모델을 학습하고, 학습된 모델로 새로운 입력의 결과를 예측한다는 것을 살펴봤다. 그런데 모델을 학습시킨다는 말은 정확히 어떤 의미일까?가중치와 편향을 조정한다고 했는데, 어떤 값을 얼마나 바꿔야 하는지는 어떻게 정하는 것일까? 이번에는 이전 글에서 사용한 스팸 메일 예시를 이어서, 학습과 추론이 실제로 어떤 과정인지 알아보려고 한다.학습..

최근에는 AI를 이용해 코드를 작성하거나 문서를 정리하는 일이 꽤 익숙해졌다.이전에도 이야기했듯이 개발 과정에서 Agent의 도움을 받는 경우가 많아지면서, AI가 어떻게 동작하는지도 조금씩 공부해보려고 한다.대학에서도 인공지능에 대해 배웠지만 시간이 지나며 그 기억이 많이 희석됐고, 가장 최근 트렌드가 궁금해서 간단하게 조사해보았다. AI에 대해 찾아보다 보면 머신러닝, 딥러닝, 생성형 AI, LLM과 같은 용어들이 함께 등장한다.예전에는 머신러닝이라는 말을 많이 들었던 것 같은데, 최근에는 대부분 LLM을 이야기하는 것처럼 느껴졌다.그렇다면 AI가 머신러닝에서 시작해서 딥러닝을 거쳐 LLM으로 바뀐 것일까? 먼저 이 용어들이 각각 무엇을 의미하는지부터 알아보자.AIAI는 Artificial Intel..

Rate Limiter 알아보기이전 글 — Consistent Hashing 알아보기 Consistent Hashing 알아보기사용자 0명에서 수백만 명까지, 서비스는 어떻게 확장될까? #2사용자 0명에서 수백만 명까지, 서비스는 어떻게 확장될까? #1최근에 꽤constant1601.tistory.com 이전 글에서는 과도한 요청으로부터 시스템을 보호하기 위한 Rate Limiter에 대해 알아보았다.사용자별로 일정 시간 동안 허용할 요청을 제한하고, 제한을 초과한 요청에는 429 Too Many Requests를 반환할 수 있었다. 그런데 Client 입장에서는 요청이 제한되었다고 해서 원하는 작업을 바로 포기하고 싶지는 않을 것이다.잠시 기다렸다가 다시 요청하면 정상적으로 처리될 수도 있다. 일시적인..

Consistent Hashing 알아보기사용자 0명에서 수백만 명까지, 서비스는 어떻게 확장될까? #2사용자 0명에서 수백만 명까지, 서비스는 어떻게 확장될까? #1최근에 꽤 규모가 있는 프로젝트를 하면서 아키텍처 설계부터 인프라constant1601.tistory.com 이전 글에서는 서버가 추가되거나 제거되는 상황에서 데이터의 재배치를 최소화하기 위한 Consistent Hashing에 대해 알아보았다.그전에는 Web Server를 Scale Out하고, Cache와 Message Queue를 적용하면서 더 많은 트래픽을 처리하는 방법도 살펴보았다. 그런데 서버를 늘리고 요청을 분산한다고 해서 모든 요청을 무한정 처리할 수 있는 것은 아니다.특정 사용자가 짧은 시간 동안 수천 번의 API를 호출하거..