01 / GPU
NVIDIA GeForce RTX 5070
Inferencia local y pruebas de rendimiento.
RB / LABORATORIO DE IA LOCAL
SETUP
DE PRUEBAS.
El hardware detrás de las pruebas del canal. Modelos locales, GGUF y rendimiento real, con el equipo a la vista.
Explora el laboratorioHARDWARE / EQUIPO DE PRUEBAS
RB / 01—0602 / GPU · 16 GB
NVIDIA GeForce RTX 5060 Ti
16 GB de VRAM para explorar modelos locales.
03 / PROCESADOR
AMD Ryzen 9 5900X
Procesamiento y apoyo a las cargas de IA.
04 / MEMORIA
64 GB RAM
Memoria del sistema para modelos y offloading.
05 / PLACA BASE
ASUS TUF Gaming B550-Plus
La base del entorno de pruebas.
06 / ALIMENTACIÓN
Corsair RM850e · 850 W
Alimentación del equipo de laboratorio.
DEL HARDWARE A LA PRUEBA
ENTORNO
DE PRUEBAS
Herramientas y formatos del laboratorio para ejecutar y explorar IA local.
- llama.cpp
- Motor de inferencia
- Llama UI
- Interfaz de pruebas
- CUDA
- Aceleración en GPU
- GGUF
- Formato de modelos
PROBAR. MEDIR. ENTENDER.
Menos humo.
Más IA real.
El equipo es el punto de partida. Para comparar resultados, también cuentan el modelo, la cuantización, el contexto y los parámetros de cada prueba.
Explorar Sampling Lab