Мануал по ноде KUZCO || Настройка графического процессора
Описание
Kuzco — это децентрализованная сеть графических процессоров, предназначенная для майнинга вычислительной мощности больших языковых моделей, работающая в экосистеме Solana.
Обзор
Kuzco — это распределенный кластер графических процессоров на блокчейне Solana, обеспечивающий экономически эффективный вывод таких LLM, как Llama3, Mistral и Phi3. Он использует неиспользуемые вычислительные ресурсы участников для предоставления доступа к этим моделям через API, совместимый с OpenAI.
LLM расшифровывается как Large Language Models (большие языковые модели). Это продвинутые модели искусственного интеллекта, обученные на огромных объемах текстовых данных для понимания, генерации и обработки человеческого языка. Они могут выполнять различные задачи, такие как ответы на вопросы, создание текста, перевод языков и многое другое.
Популярными примерами LLM являются GPT (например, тот, с которым вы взаимодействуете), BERT, Llama и Mistral. Эти модели широко используются в приложениях обработки естественного языка (NLP).
Ключевые особенности
- Распределенный кластер графических процессоров: Kuzco использует коллективную мощность графических процессоров по всей сети, обеспечивая масштабируемый и эффективный вывод LLM.
- Интеграция с Solana: Построенный на блокчейне Solana, Kuzco извлекает выгоду из его высокопроизводительной, низкой задержки и экономичной инфраструктуры.
- Использование неиспользуемых вычислений: участники сети могут вносить свой вклад в неиспользуемые вычислительные мощности и получать вознаграждение за свой вклад.
- OpenAI-совместимый API: Kuzco предоставляет API, совместимый с OpenAI, что упрощает разработчикам интеграцию и использование популярных LLM, таких как Llama3 и Mistral.
- Экономичность: Используя простаивающие вычислительные ресурсы, Kuzco предлагает экономичное решение для вывода LLM по сравнению с традиционными централизованными подходами.
Создайте учетную запись:
Прежде чем начать, зарегистрируйте свою учетную запись(откроется в новой вкладке). Подтвердите свой адрес электронной почты, чтобы завершить процесс регистрации.
Примечание: Для запуска KUZCO требуется графический процессор. Тем не менее, он также может работать на процессоре, если ваш VPS имеет высокопроизводительный процессор.
Hardware
Kuzco поддерживает множество различных конфигураций оборудования для Mac, Windows и Linux. На этой странице представлен список наиболее распространенных аппаратных средств, которые поддерживает Kuzco.
Минимальные системные требования:
- Графический процессор из списка ниже с не менее 16 ГБ видеопамяти
- 16 ГБ ОЗУ
- 30 ГБ свободного места на диске
- Надежная пропускная способность сети 100 Мбит/с+. Протестируйте его здесь: Fast.com
Поддерживаемые графические процессоры
Вы можете ознакомиться с документальным фильмом Kuzco. Ссылка здесь
Графический процессор:
Вы можете арендовать видеокарту в: https://cloud.vast.ai/?ref_id=189472
Примечание: Пожалуйста, используйте реферальную ссылку для получения дополнительной скидки.
- После регистрации вы можете использовать шаблон изображения Kuzco Ссылка здесь.
- Вы можете выбрать RTX 4000, которая обойдется вам примерно в 0,157 доллара в час. Более подробную информацию смотрите в видео-инструкции.
Приложение для Windows/настольных компьютеров
Самый простой способ начать работу с Kuzco на Windows — загрузить и установить приложение Kuzco для Windows с официального сайта(откроется в новой вкладке).
WSL
Kuzco также можно запустить в подсистеме Windows для Linux (WSL). Чтобы начать работу, ознакомьтесь с нашим руководством по WSL.
Пользователь Linux/Ubuntu-VPS:
sudo apt update -y && sudo apt upgrade -y
Во-первых, установите экран. Если вы уже используете его, вы можете пропустить этот шаг.
sudo apt install screen -y
screen -S kuzco
curl -fsSL https://kuzco.xyz/install.sh | sh
- Как только вы выполните вышеуказанный скрипт, он загрузит файлы и Kuzco. Пожалуйста, подождите 15 минут.
.json
- После успешной установки вам будет предложено ввести свой адрес электронной почты и пароль. Просто укажите необходимые данные. Теперь вы успешно установили Kuzco.
kuzco init
- Как только вы запустите его, он запросит имя работника Kuzco. Просто введите имя и, когда появится запрос на подтверждение, введите «да», чтобы продолжить и начать работу.
- Теперь он загрузит все связанные зависимости. Это может занять некоторое время. После завершения проверьте свою панель управления Kuzco, чтобы просмотреть статус.
- Первоначально статус будет отображаться как «Инициализация». Проверьте еще раз через 15 минут, и он должен отображаться как «Активно». Ваши баллы будут обновлены через 1 час.
- Теперь вы можете отсоединиться от экрана, нажав кнопку .
CTRL + A + D
- Чтобы снова войти на этот экран, используйте следующую команду.
screen -r kuzco
Vast.ai -Руководство по настройке графического процессора:
- После того, как вы арендуете графический процессор, откройте терминал, нажав на опцию «Подключить».
- Откроется терминал Jupyter. Просто выполните следующую команду, чтобы обновить программное обеспечение вашего графического процессора.
sudo apt-get updatesudo apt-get upgrade
Роли Kuzco в Discord
Если вы новичок в Kuzco, вы, возможно, задаетесь вопросом, как получить эти специальные роли «Воркера» на нашем сервере Discord. Не волнуйтесь! В этом руководстве мы расскажем вам о требованиях, процессе привязки учетной записи Discord и о том, что делать, если вы застряли.
Обзор ролей
В Kuzco вы можете зарабатывать различные роли в Discord в зависимости от того, сколько очков вы накопили. Каждая роль дает вам доступ к эксклюзивным привилегиям на нашем сервере. Вот текущие пороговые значения:
Как только вы наберете необходимое количество баллов для определенной роли, Kuzco автоматически назначит вам эту роль в Discord — при условии, что ваша учетная запись Discord привязана.
Спасибо за прочтение! Пожалуйста, поделитесь своим отзывом в комментариях и подпишитесь на меня в социальных сетях, если вам понравилась статья. Я также создал сообщество Telegram, где мы можем собираться и обсуждать интересные темы, связанные с криптовалютой. Вы можете присоединиться к нам и принять участие в обсуждении → Telegram: Contact @razgules