Windows 11에서 로컬로 Qwen AI를 실행하는 방법

Windows 11eseo Lokeollo Qwen Aileul Silhaenghaneun Bangbeob



Qwen AI Alibaba Group이 출시 한 최신 AI 모델입니다. 하는 동안 부조종사 ,,, Deepseek ,,, chatgpt Qwen은 Android, iOS 및 Wind 공식 웹 사이트를 방문 하여이 도구에 액세스하고 사용할 수 있습니다. 그러나 웹 사이트에 가입해야합니다. 또한 인터넷에도 적극적으로 연결되어 있어야합니다. 그러나 당신은 당신이 할 수 있다는 것을 알고 있습니까? Windows 11/10 PC에서 Qwen AI를 로컬로 실행하십시오 ? 이 기사는 그렇게하는 방법을 보여줍니다.



  Qwen AI를 Windows에서 로컬로 실행하십시오





웹에서 Qwen AI를 사용하는 방법은 무엇입니까?

웹에서 알리바바의 Qwen AI를 사용하려면 chat.qwenlm.ai 쿼리를 입력하십시오. AI 도구에서와 같이 계속 채팅하십시오. Qwen을 사용하려면 계정을 만들고 로그인해야합니다.





Windows 11/10에서 로컬로 Qwen AI를 실행하는 방법

Windows PC에서 로컬로 Qwen을 실행하려면 다음 두 가지 도구를 설치해야합니다.



  • 올라마
  • 도커

올라마 사용자가 로컬 컴퓨터에서 LLM (대형 언어 모델)을 실행할 수있는 무료 및 오픈 소스 프로젝트입니다.

도커 응용 프로그램을 개발, 배송 및 실행하기위한 오픈 소스 플랫폼입니다. 개발자는 Docker에 컨테이너를 만들어 작업을 공유 할 수 있습니다.

이 안내서에서는 Docker 앱에서 컨테이너를 만들어 Windows PC에서 Qwen AI를 로컬로 실행하는 방법에 대해 설명합니다.



Windows에 Ollama를 설치하는 방법

첫 번째 단계는 시스템에 Ollama를 설치하는 것입니다. 아래에 제공된 단계를 따르십시오.

  Windows에서 Ollama를 다운로드하십시오

  1. 방문 Ollama의 공식 웹 사이트 .
  2. 다운로드 버튼을 클릭하고 Windows 플랫폼을 선택하고 Windows 시스템의 Ollama 다운로드를 진행하십시오.
  3. 다운로드가 완료되면 설치자 파일을 실행하여 시스템에 Olama를 설치하십시오.
  4. 이제 Ollama를 발사하여 백그라운드에서 실행하십시오.

Qwen AI 모델을 로컬로 설치하십시오

이제 다음 단계는 시스템에 로컬에 Qwen AI 모델을 설치하는 것입니다. Ollama의 공식 웹 사이트로 이동하여 클릭하십시오. 모델 꼬리표. 여기에서 모든 AI 모델이 표시됩니다. 검색 Qwen . 그런 다음 Qwen, Qwen2, Qwen2.5 등 사용 가능한 모든 Qwen AI 모델을 보여줍니다. PC에 배포 할 모델을 클릭하십시오.

  QWEN2.5 매개 변수

이 안내서에서는 설치 방법을 볼 수 있습니다. qwen2.5 Windows 시스템에서 로컬로 모델. 각 Qwen 모델에는 다른 매개 변수가 있습니다. QWEN2.5 모델에는 매개 변수 0.5B, 1.5B, 3B, 7B 등이 있습니다. QWEN 0.5B는 가장 작고 빠른 매개 변수입니다. 50 억 파라미터로 구성되며 기본 작업에 좋습니다. Qwen AI의 1.5b 매개 변수는 Qwen 0.5b 매개 변수보다 더 발전됩니다. 마찬가지로, 다른 큰 매개 변수는 이전 매개 변수보다 더 고급 매개 변수입니다.

큰 매개 변수를 설치하려면 고급 PC가 필요합니다. 따라서 컴퓨터가 원활하게 작동 할 수있는 것을 설치하십시오. 또한 더 큰 매개 변수에는 더 많은 디스크 공간이 필요합니다. 드롭 다운에서 매개 변수를 선택하고 해당 명령을 복사하십시오. 예를 들어, 0.5B 매개 변수로 QWEN2.5 AI를 설치하라는 명령은 다음과 같습니다.

803A5E3E011A086507DC9734CD135CEBFB91BC

  Ollama를 통해 Qwen을 설치하십시오

처벌

명령 프롬프트를 열고 복사 한 명령을 붙여 넣고 쳤다. 입력하다 . 제공 한 명령이 완료되기 전에 명령 프롬프트를 닫지 마십시오.

  CMD에서 Qwen과 채팅하십시오

명령이 성공적으로 실행되면 Qwen AI가 컴퓨터에 설치됩니다. 이제 CMD에서 Qwen AI와 채팅 할 수 있습니다. 다음에 Qwen AI와 채팅하려면 명령 프롬프트를 열고 동일한 명령을 실행하십시오. Qwen AI의 다른 모델을 설치하려면 Ollama 웹 사이트에서 필요한 명령을 복사하여 CMD에서 실행하십시오.

Windows에 Docker 설치

Windows 시스템에서 CMD에서 Qwen AI를 사용할 수 있습니다. 그러나 채팅 기록을 저장하지는 않습니다. 또한 Qwen AI 용 전용 UI를 설치하면 사용하기 쉽습니다. 이를 위해서는 Docker를 설치해야합니다.

마이크 부스트

방문 Docker의 공식 웹 사이트 Windows 지원 버전을 다운로드하십시오. 이제 PC에 앱을 설치하십시오. Docker의 웹 사이트에서 계정을 만들려면 시스템을 다운로드하여 설치해야합니다.

Docker 설치가 완료된 후 Docker를 실행하고 백그라운드에서 계속 실행되는지 확인하십시오. 이제 명령 프롬프트를 열고 다음 명령을 실행하십시오.

29B5E530F97CF6FCE0A0168B136E9F9613F235C

  도커 컨테이너

위의 명령은 Docker 앱에서 컨테이너를 만듭니다. 위의 명령을 완료하는 데 시간이 걸립니다. 명령이 완료되면 Docker 앱을 엽니 다. 당신은 컨테이너가 표시됩니다 컨테이너 부분.

Qwen AI를 Windows에서 로컬로 실행하십시오

  Windows에서 로컬로 Qwen AI를 사용하십시오

이제 마지막 단계는 웹 브라우저의 시스템에서 Qwen AI를 로컬로 실행하는 것입니다. Docker 앱을 열고 클릭하십시오 3000 : 8080 컨테이너 섹션에서 링크하십시오. 기본 웹 브라우저에서 Port 3000으로 LocalHost가 열립니다. 이제 계정을 만듭니다. 매번 Qwen AI를 사용하기 위해 동일한 로그인 세부 정보가 필요하므로 로그인 세부 정보를 기억하십시오.

웹 브라우저에서 Qwen AI를 로컬로 실행하려면 Ollama와 각 Docker 컨테이너가 백그라운드에서 실행되어야합니다.

그게 다야.

내 PC에서 AI를 사용할 수 있습니까?

예, PC에서 AI 도구를 사용할 수 있습니다. 시스템에 하드웨어가 지원되지 않은 경우 클라우드 AI 도구를 사용할 수 있습니다. 이러한 도구는 서버에서 호스팅됩니다. 따라서 그들은 시스템에 부하를 넣지 않습니다. 그러나 시스템에 AI 도구를 로컬로 배포하려면 시스템이 하드웨어를 지원해야합니다.

Qwen LLM은 오픈 소스입니까?

Qwen AI의 일부 모델은 QWEN2.5-7B-Instruct-1M 및 QWEN2.5-14B-Instruct-1M을 포함한 오픈 소스입니다.

인기 게시물