17.3 C
Madrid
viernes, octubre 24, 2025
spot_img
spot_img

¿Cuánta energía usa un solo mensaje de chatbot? Esta herramienta de IA puede mostrarte

Los sistemas de IA requieren mucha energía para funcionar, pero nadie tiene números exactos, especialmente no para consultas de chatbot individuales. Para atracar esto, un ingeniero de Hugging Face construyó una útil para tratar de averiguarlo.

Todavía: las 20 mejores herramientas de IA de 2025, y la cosa #1 para memorar cuando las usas

El lengua que rodea la infraestructura de IA, gran parte de la cual enfatiza «la abundancia» y otras metáforas con temas aéreos, puede oscurecer el hecho de que se basamento en las computadoras hambrientas de energía. Para ejecutar cálculos complejos rápidamente, los sistemas de inteligencia químico requieren chips potentes, múltiples GPU y centros de datos expansivos, todos los cuales consumen energía cuando le hace una pregunta a ChatGPT. Esto es parte de por qué el camino de nivel redimido a muchos chatbots viene con límites de uso: los costos de electricidad hacen que la informática sea costosa para la empresa de alojamiento.

Chat UI Energy

Para desmitificar poco de esto, abrazando al ingeniero de la cara Julien Delavande construyó una interfaz de chat de IA que muestra estimaciones de uso de energía en tiempo existente para sus conversaciones. Compara cuánta energía usan varios modelos, tareas y solicitudes, por ejemplo, un mensaje que requiere razonamiento es probable que use más energía que una simple consulta de búsqueda de hechos. Encima de Watt-Hours y Joules, la útil muestra el uso de métricas más accesibles, como el porcentaje de un cargo por teléfono o tiempo de manejo, utilizando datos de la Agencia de Protección Ambiental (EPA).

LEER  Estoy abandonando contraseñas para pases de guarda por una razón, y no es lo que piensas

Cuando le pregunté a Chat UI Energy sobre el clima en la ciudad de Nueva York, la primera comparación que me mostró fue por un cargo por teléfono (mi consulta usó aproximadamente del 9.5%). Cuando hice clic en esa estimación, la útil se alternó a través de otras comparaciones equivalentes, incluidos 45 minutos de uso de la bombilla LED, 1.21 segundos de uso de microondas y 0.15 segundos de energía tostadora. A medida que continúa charlando, el BOT muestra el uso total de energía y el tiempo de la conversación en la parte inferior de la ventana de chat.

Encima: por qué acabo de adicionar Gemini 2.5 Pro a la letanía muy corta de herramientas de IA que suscripción

Aunque mi consulta era muy simple, se basaba en el camino a Internet, que el bot no tiene. Esa puede ser la razón por la cual tardó 90 segundos (y más energía de lo esperado) para devolver una respuesta. Aún así, incluso como una estimación, 45 minutos de uso de la bombilla LED parece anecdóticamente incorporación, lo que pone la energía utilizada por las indicaciones mucho más complejas y de múltiples pasos en perspectiva.

Solo las compañías de IA saben cuánta energía en realidad usan sus sistemas, pero los estudios estiman que, según las tendencias de la demanda, solo está aumentando. Un mensaje de la Agencia Internacional de Energía de 2024 predice que la demanda de electricidad aumentará a nivel mundial en un 3,4%, una tasa más rápida de lo habitual, para 2026, impulsada en parte por «una expansión sobresaliente» de los centros de datos. Un mensaje de Berkeley Lab todavía encontró que los centros de datos se aceleran, con una tasa de crecimiento esperada de «13% a 27% entre 2023 y 2028».

LEER  Encontré la forma más fácil de enviar archivos entre mi teléfono Android y mi escritorio, y es gratis

El divulgación enfatiza la distinción entre plataformas de código descubierto como abrazar la cara y más compañías opacas de IA.

Todavía: Copilot acaba de percutir mis pruebas de codificación de IA fuera del parque (posteriormente de ahogarlas el año pasado)

«Con proyectos como el puntaje de energía AI y la investigación más amplia sobre la huella de energía de la IA, estamos presionando por la transparencia en la comunidad de código descubierto», dijeron los creadores del CHAT en el anuncio. «¡Un día, el uso de energía podría ser tan visible como las etiquetas de alimento en los alimentos!»

Cómo probarlo tú mismo

Puede probar el chatbot aquí y rotar a través de varios modelos de código descubierto, incluidos Google Gemma 3, Meta’s Lumbre 3.3 e Mistral Nemo Instruct.

¿Quieres más historias sobre AI? Regístrese para la innovaciónnuestro boletín semanal.

spot_img

Artículos relacionados

spot_img

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Últimos artículos