Ethelina

@ethelina.bsky.social

Argentina sufriendo el desastre del 🤡

🤯 Un estudio de Stanford revela que los modelos de IA "alineados" empiezan a mentir cuando compiten por nuestra aprobación. El incentivo de "gustar" es más fuerte que el de decir la verdad

Moloch's Bargain: Emergent Misalignment When LLMs Compete for Audiences

Large language models (LLMs) are increasingly shaping how information is created and disseminated, from companies using them to craft persuasive advertisements, to election campaigns optimizing messaging to gain votes, to social media influencers boosting engagement. These settings are inherently competitive, with sellers, candidates, and influencers vying for audience approval, yet it remains poorly understood how competitive feedback loops influence LLM behavior. We show that optimizing LLMs for competitive success can inadvertently drive misalignment. Using simulated environments across these scenarios, we find that, 6.3% increase in sales is accompanied by a 14.0% rise in deceptive marketing; in elections, a 4.9% gain in vote share coincides with 22.3% more disinformation and 12.5% more populist rhetoric; and on social media, a 7.5% engagement boost comes with 188.6% more disinformation and a 16.3% increase in promotion of harmful behaviors. We call this phenomenon Moloch's Bargain for AI--competitive success achieved at the cost of alignment. These misaligned behaviors emerge even when models are explicitly instructed to remain truthful and grounded, revealing the fragility of current alignment safeguards. Our findings highlight how market-driven optimization pressures can systematically erode alignment, creating a race to the bottom, and suggest that safe deployment of AI systems will require stronger governance and carefully designed incentives to prevent competitive dynamics from undermining societal trust.

f.mtr.cool

Usualmente soy bastante ducho para fingir normalidad pero la posibilidad de que el mogólico esté negociando una base militar yanqui o algo por estilo me amargó todo el día.

Cuando Estados Unidos estaba en la cumbre de su poder, Argentina se negaba a reverenciarlo cada vez que podía; ahora que su hegemonía está desafiada en serio, se le subordina. Y se supone que los argentinos somos unos vivos bárbaros, bárbaros.

😮El @JWT divisó un agujero negro "casi desnudo" que se habría creado "instantes" después del Big Bang 👇https://www.theguardian.com/science/2025/sep/02/primordial-black-hole-big-bang-james-webb-space-telescope

Un soplo de esperanza para el sistema científico: gracias a la resistencia de los investigadores y al rechazo del Congreso les restituyeron la autarquía al INTA y al INTI. Quedaron pendientes el INA, el Inpres y el Segemar 👇💝🇦🇷💝🇦🇷💝 www.eldestapeweb.com/sociedad/cie...

Freno al cientificidio: les restituyen la autarquía al INTA y el INTI

Hoy se publicó en el Boletín Oficial; vuelven Ariel Pereda a la dirección del INTA y el directorio colegiado; está pendiente la situación del INA

eldestapeweb.com