Instructions to use Vilyam888/Code_analyze.1.0 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Vilyam888/Code_analyze.1.0 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Vilyam888/Code_analyze.1.0") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Vilyam888/Code_analyze.1.0") model = AutoModelForCausalLM.from_pretrained("Vilyam888/Code_analyze.1.0") messages = [ {"role": "user", "content": "Who are you?"}, ] inputs = tokenizer.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=40) print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - Inference
- Notebooks
- Google Colab
- Kaggle
- Local Apps
- vLLM
How to use Vilyam888/Code_analyze.1.0 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Vilyam888/Code_analyze.1.0" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Vilyam888/Code_analyze.1.0", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/Vilyam888/Code_analyze.1.0
- SGLang
How to use Vilyam888/Code_analyze.1.0 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Vilyam888/Code_analyze.1.0" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Vilyam888/Code_analyze.1.0", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Vilyam888/Code_analyze.1.0" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Vilyam888/Code_analyze.1.0", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use Vilyam888/Code_analyze.1.0 with Docker Model Runner:
docker model run hf.co/Vilyam888/Code_analyze.1.0
Code Analyzer Model
Fine-tuned версия модели Qwen2.5-Coder-3B-Instruct для анализа кода студента на основе условия задачи (for Machine Learning tasks).
Описание модели
Эта модель предназнаечена для анализа кода студента. Модель принимает:
- Условие задачи (текстовое описание)
- Код решения студента (Python код)
И возвращает детальный анализ в формате JSON, включающий:
- Оценку правильности решения
- Анализ соответствия требованиям задачи
- Оценку качества кода
- Сильные и слабые стороны решения
- Рекомендации по улучшению
- Детальный анализ с обоснованием
Модель основана на Qwen2.5-Coder-3B-Instruct и дообучена с использованием LoRA (Low-Rank Adaptation).
Быстрый старт
Вариант 1: Использование локально (Python)
Установка зависимостей:
pip install transformers torch
Простой пример использования:
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
import json
model_name = "Vilyam888/Code_analyze.1.0"
# Загрузка модели
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_name,
torch_dtype=torch.bfloat16,
device_map="auto",
trust_remote_code=True
)
# Условие задачи
task = "Напишите функцию, которая принимает список чисел и возвращает сумму всех элементов."
# Код студента
code = """def sum_list(numbers):
total = 0
for num in numbers:
total += num
return total"""
# Форматирование входа
input_text = f"Задача:\n{task}\n\nРешение (код):\n```python\n{code}\n```"
prompt = f"{input_text}\n\nОтвет:\n"
# Генерация анализа
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
with torch.no_grad():
outputs = model.generate(
**inputs,
max_new_tokens=1024,
temperature=0.7,
top_p=0.8,
top_k=20,
repetition_penalty=1.05,
do_sample=True
)
# Декодирование и парсинг JSON
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
result = response.split("Ответ:")[-1].strip()
analysis = json.loads(result)
print(json.dumps(analysis, ensure_ascii=False, indent=2))
Или используйте готовые скрипты из репозитория:
Простой пример (минимальный код):
python scripts/quick_start_example.py
Полный пример с интерактивным режимом:
python scripts/use_model_example.py
Детали обучения
- Базовая модель: Qwen/Qwen2.5-Coder-3B-Instruct
- Метод обучения: LoRA (Low-Rank Adaptation)
- Параметры LoRA:
r: 16lora_alpha: 32lora_dropout: 0.05
- Фреймворк: TRL (Transformer Reinforcement Learning)
- Формат данных: JSONL с полями
inputиoutput
Ограничения
- Модель обучена на русском языке для анализа кода
- Может генерировать неточные или неполные ответы
- Требует GPU для эффективной работы
Использование через API
Модель можно использовать через несколько способов:
1. Через transformers (Python)
from transformers import AutoModelForCausalLM, AutoTokenizer
2. Через Hugging Face Inference API
import requests
API_URL = "https://api-inference.huggingface.co/models/Vilyam888/Code_analyze.1.0"
3. Через Gradio Space API
Если создан Gradio Space, можно использовать его API endpoint.
4. Интеграция в Backend проект
Примеры для FastAPI, Flask, Django, Node.js и других фреймворков.
Лицензия
Apache 2.0
Авторы
Fine-tuned by Vilyam888
- Downloads last month
- 7