[Pytorch] 2.x 내용 확인 및 일부 코드로 돌려보기

요즘은 예전만큼 모델 개발을 할 일이 없다보니, 크게 업데이트 된 것을 확인하고 싶었는데, 많은 기능이 추가되고, 이것보다 transformers 라이브러리 연습을 하는 게 더 좋을 것 같아 간단히 작성해봅니다.버전 히스토리 (oo.ai) - 250426 기준다음은 PyTorch 2.x 버전대 (2.0 ~ 2.7) 주요 업데이트 내용을 테이블 형태로 정리한 것입니다.버전주요 특징세부 내용2.0TorchDynamo, AOT Autograd, Distributed Tensor Parallelism (Beta)TorchDynamo: 파이썬 바이트코드를 검사하고 안전한 연산을 JIT 컴파일하여 속도 향상AOT Autograd: torch.compile을 사용하여 eager mode 코드를 Autograd 그래프..

실제로 버그가 있을 수 있으니 참고만 하시면 될 것 같습니다. 번호제목링크1HWP MCPhttps://github.com/jkf87/hwp-mcp2크롤링 MCP(네이버 부동산, 쿠팡, 네이버 증권)https://github.com/FLOWIT28999/Crawling-Automation3MCP 사이트 정리 모음https://github.com/punkpeye/awesome-mcp-servers/blob/main/README-ko.md4CHATGPT MCP(MAC)https://github.com/syedazharmbnr1/claude-chatgpt-mcp 유용한 것이 있으면 아래 댓글에 작성 부탁드립니다 :)

우연히 SNS에서 부분적으로 다운로드 하는 기능이 있었는데, github token을 요구하다보니 꼭 저렇게 해야하나 싶기도 하고, 찾아보니 부분적으로 가져올 수 있을 것 같아 공유드립니다. https://gitzip.org/ Introduction - GitZipLight Download just for those few dirs/files you need instead of whole project. Multiple Choose more than one dirs/files. Intuitive Just check items and click download button.gitzip.org 여기서는 예시로 요즘 핫한 a2a 예시 코드가 있는 https://github.com/google/A2A 에서 가..

프롬프트 엔지니어링 문서 내용 정리 Index제목제공자링크1Prompt engineeringopenaihttps://platform.openai.com/docs/guides/prompt-engineering/six-strategies-for-getting-better-results2Prompt engineeringgoogle-cloudhttps://cloud.google.com/discover/what-is-prompt-engineering3 개인https://www.promptingguide.ai/kr4openai-cookbookopenaihttps://cookbook.openai.com/examples/gpt4-1_prompting_guide?fbclid=IwY2xjawJwDf1leHRuA2FlbQI..

소개최근 AI 음성 인식 기술의 발전으로 다양한 서비스에서 음성-텍스트 변환 기능이 중요해지고 있습니다. 특히 OpenAI의 Whisper 모델은 뛰어난 인식 정확도와 다국어 지원으로 주목받고 있죠. 하지만 이러한 모델을 실제 서비스에 통합하기 위해서는 안정적이고 확장 가능한 API 시스템이 필요합니다. 이 글에서는 FastAPI, Celery, Redis를 활용하여 비동기적으로 여러 음성 파일을 처리할 수 있는 Whisper 음성 인식 API 시스템을 구축하는 방법을 소개합니다. 사실 이 프로젝트는 제가 최근 마이크로서비스 아키텍처와 비동기 처리 시스템에 대한 깊이 있는 이해를 얻기 위해 시작한 개인 학습 프로젝트입니다. FastAPI의 비동기 처리 기능과 Celery의 분산 작업 처리 능력을 실제로 ..

ChatGPT를 활용하여, 3개의 라이브러리에 대한 배경과 필요 코드를 정리하였습니다. 배경: LLM과 외부 도구의 연결을 위한 MCP의 등장최근 AI 기술의 발전으로 대형 언어 모델(LLM)이 다양한 외부 도구와 데이터를 활용하여 복잡한 작업을 수행하는 에이전트로 진화하고 있습니다. 이러한 흐름 속에서 Model Context Protocol(MCP)은 LLM이 외부 도구와 안전하고 일관되게 통신할 수 있도록 설계된 프로토콜로, 도구 호출의 표준화를 통해 개발자와 사용자 모두에게 효율성을 제공합니다 .​MCP란 무엇인가요?MCP(Model Context Protocol)는 LLM이 외부 도구 및 데이터 소스와 안전하고 일관되게 통신할 수 있도록 설계된 오픈 표준 프로토콜입니다. 이를 통해 LLM은 다..

링크드인에서 API 테스트에 대한 좋은 글을 찾게 되었고, 해당 글을 정리하면서 요즘 핫한 AI Agent 테스트 방법론에 대해서도 정리를 해보고자 합니다.정답은 아니겠지만, 참고해주시면 좋을 것 같습니다.생각보다 AI AGENT에 대한 테스트가 단순해질줄 알았는데, 모델이 더 늘어나다 보니, 체크를 해야합니다. 일반적인 API Testing (9개)1. 스모크 테스트 (Smoke Testing)목적: API의 주요 기능이 정상적으로 작동하는지 빠르게 확인하여, 상세한 테스트에 앞서 시스템이 준비되었는지 판단합니다.​방법: 기본적인 API 엔드포인트에 요청을 보내어 정상적인 응답을 확인합니다.​Amazon Web Services, Inc.예시: /api/health-check 엔드포인트에 GET 요청을 ..

아래와 같이 요즘 mcp server 가 유행이 되면서 관리를 하는 페이지가 인기입니다.여기다가 회사에서 작업하는 것을 올리기는 부담스럽고, https 로 해야하니 따로 구축하고 싶다는 생각이 들었습니다.그리고 사내에서 쓴다는 생각으로 사내에서 접근 가능한 것만 따로 관리하고 싶었습니다.https://smithery.ai/https://www.claudemcp.com/ko/docs/dev-sse-mcp  그렇게 생각만하다가 우연히 찾은 것이 아래 깃헙 소스입니다.mcp directory 라는 깃헙에서 이러한 것을 찾게 되었습니다물론 이 디렉토리를 만드는 것 자체는 기능상 구현하기에는 크게 어려운 기능이 없어서 금방 할 수 있겠지만, 열심히 만들어 주신 것이 있으니 활용해보고 싶었습니다.https://gi..

문제점dify에 open-source 모델에 vllm openai-compatible 하게 서빙을 한 stt 모델을 테스트하는 데, 자꾸 영어로 변환되는 문제가 발생했다. 그래서 vllm 로그를 보니 다음과 같이 나왔다.vllm 파라미터를 찾아봤지만 저 부분을 로 바꾸는 파라미터를 찾을 수가 없었다.prompt: '' 그렇다고 실제로 dify에서도 STT 모델에 대해서 Language를 바꾸는 기능을 제공하지 않았다. 코드 분석해보기Repository : dify 그래서 우선 코드에서 찾아보기로 하였다.결론적으로 직접적으로 수정하는 부분을 찾지 못했지만 다음과 같은 부분을 찾았다.앞에 front에서부터 관련된 부분을 찾았다./web\app\components\base\voice-input\index.t..

소개마크다운 문서 작성과 지식 관리에 Obsidian을 사용하고 계신가요? Cursor의 강력한 AI 기능을 Obsidian과 함께 사용하면 노션과 같은 직관적인 편집 경험과 AI 보조 기능을 동시에 활용할 수 있습니다. 이 글에서는 Cursor와 Obsidian을 연동하여 마크다운 문서를 더 효율적으로 편집하는 방법을 소개합니다.Cursor와 Obsidian 설정하기필요한 도구Cursor - AI 기능이 내장된 코드 에디터Obsidian - 마크다운 기반 지식 관리 도구연동 방법Obsidian 볼트(Vault)를 Cursor에서 폴더로 열기Cursor에서 마크다운 파일 편집 모드 활성화마크다운 에디터 전환 기능 활용하기Cursor에서는 명령어 팔레트를 통해 마크다운 에디터를 쉽게 전환할 수 있습니다. ..

CURSOR가 이번에 업데이트가 되면서, 화면 구조가 바뀌었고, 몇몇 기능이 추가가 되었다.추가가 된 김에 잘 사용하려면 어떤 것을 해야할 지 정리해보고자 한다.  아래 블로그에 잘 정리되어 있어서, 이걸 보시는 것도 추천드립니다.특히 MCP에 대한 설명에 대해서 상세하게 작성해줘서 MCP가 필요한 부분은 참고하시면 좋을 것 같습니다. https://youtu.be/f2ibNsDdJ0U?si=t9YOSBeUssVf5UD8 주오 업데이트 (0.46.x)1. Agent가 기본 모드로 설정됨이전에는 Chat, Composer, Agent 세 가지 모드가 존재했지만, 이제는 Agent가 기본 모드가 되어 보다 강력하고 통합된 AI 경험을 제공합니다.이를 통해 사용자가 모드를 전환하는 과정에서 혼란을 줄이고, 하..

GPT를 활용하여 작성하였습니다  배경어쩌다가 뉴스 기사를 통해 보게 되었고, 내용을 대충 보니 데이터를 어떻게 쌓으면 되는지 그리고 어떤 식으로 학습하면 되는지 그리고 깃헙을 제공하다 보니, 관심을 가지게 되었고, 읽게 되었습니다.그래서 이 논문을 통해 알고자 하는 부분은 어떻게 데이터를 뽑았는 지, 그리고 어떻게 저렴한 비용으로 해당 모델을 만들 수 있는 지를 알고자 읽어보게 되었습니다.   이 논문의 핵심 내용은 Test-time scaling(테스트 시 스케일링)이라는 개념을 활용하여 언어 모델의 성능을 향상시키는 방법을 연구하는 것입니다. 기존에 OpenAI의 o1 모델이 이를 구현했지만, 구체적인 방법이 공개되지 않아 이를 복제하려는 여러 시도가 있었습니다. 연구진은 가능한 한 가장 단순한 방..