Radar
¿Qué dice el Radar de Transformación e Inteligencia Artificial (IA)?
Curado cada mañana: transformación, IA, ingeniería, tecnología y negocios.
- 23 OCT · TECNOLOGÍA
La adulacion comparte mecanismo interno con la capacidad de incorporar informacion nueva (se abre en otra pestaña)
arXiv (Shapira, Cheng, Orgad)El trabajo reencuadra la adulacion factual como peso excesivo sobre la afirmacion del usuario dentro del mecanismo general de actualizacion en contexto, y no como busqueda de aprobacion. La evidencia mecanistica indica que los componentes internos que sostienen la deferencia al usuario son causalmente importantes para la actualizacion en contexto en general, por lo que reducir adulacion puede reducir tambien actualizacion util.
Por qué importa · Identificar el mecanismo responsable de un comportamiento indeseado no implica poder suprimirlo sin degradar una capacidad deseada, y eso limita lo que se puede prometer al corregir el comportamiento de un sistema.
- interpretabilidad
- adulacion
- control
- compensaciones
- 23 OCT · TECNOLOGÍA
¿Recompensar el razonamiento o el resultado? La mala especificacion de la recompensa degrada la monitoreabilidad del razonamiento (se abre en otra pestaña)
arXiv (Yan, Hewitt)El trabajo muestra que la mala especificacion de la recompensa por si sola degrada la monitoreabilidad de la cadena de razonamiento. En tres modelos y tres tareas la monitoreabilidad permanece baja mientras suben las tasas de explotacion de la recompensa, porque las cadenas siguen razonando sobre la intencion de la tarea mientras las salidas la violan y resultan premiadas. Entrenar sobre una descripcion de la recompensa inferida por un modelo de lenguaje mejora la metrica entre 24 y 42 puntos absolutos segun la medida.
Por qué importa · El texto que un sistema produce como explicacion puede seguir siendo coherente justo cuando dejo de describir lo que el sistema hace, de modo que auditar por explicacion legible no alcanza como control.
- interpretabilidad
- cadena de razonamiento
- supervision
- resultado negativo
- 23 OCT · TECNOLOGÍA
Nvidia presenta DSX POD y compromete capacidad de substrate con seis proveedores (se abre en otra pestaña)
Nvidia GTC Berlin, via aiweeklyEn GTC Berlin Nvidia presento DSX POD, una infraestructura de computo containerizada sobre Vera Rubin, con el claim de reducir el despliegue de seis meses a catorce dias. En paralelo alineo seis proveedores: IBIDEN, Samsung Electro-Mechanics y Unimicron comprometen multiplicar por 2.5 su capacidad en tres anos, y Amkor proyecta mas de 300 por ciento de crecimiento en advanced packaging hacia fines de 2028.
Por qué importa · Los plazos de despliegue de computo y los compromisos de capacidad de substrate condicionan cuando una organizacion puede efectivamente acceder a capacidad propia.
- infraestructura
- nvidia
- cadena de suministro