cognitio-ml-expert

Modelo especializado en Machine Learning y entrenamiento de IA, fine-tuned desde microsoft/Phi-3-mini-4k-instruct.

📊 Modelo Base

• Base Model: microsoft/Phi-3-mini-4k-instruct
• Fine-tuning: QLoRA (4-bit + LoRA)
• Dataset: Cognitio ML Expert Dataset

🎯 Capacidades

Este modelo sabe TODO sobre:

• ✅ Machine Learning fundamentals
• ✅ Deep Learning architectures (CNN, RNN, Transformer, GNN)
• ✅ Optimization algorithms (SGD, Adam, AdamW)
• ✅ Fine-tuning techniques (LoRA, QLoRA, PEFT)
• ✅ Frameworks (PyTorch, TensorFlow, JAX)
• ✅ Best practices y troubleshooting

📚 Dataset

El dataset incluye conocimiento sobre:

• Arquitecturas de redes neuronales
• Algoritmos de optimización
• Técnicas de fine-tuning
• Frameworks y librerías
• Mejores prácticas

🚀 Uso

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

# Cargar modelo base
base_model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-3-mini-4k-instruct")
model = PeftModel.from_pretrained(base_model, "Kimberlyindiva/cognitio-ml-expert")

# Usar
tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-3-mini-4k-instruct")
inputs = tokenizer("¿Qué es un Transformer?", return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0]))

📝 Fine-tuning

Para fine-tune este modelo:

python fine_tune_starcoder_cognitio.py

Ver fine_tune_starcoder_cognitio.py para detalles.

📄 Licencia

MIT License