Echo yhdistää avoimen lähdekoodin malleja ja tavoittelee Fable-tasoisia tuloksia kolmanneksen hinnalla
Echo on kokeellinen järjestelmä, joka jakaa jokaisen pyynnön dynaamisesti usean avoimen lähdekoodin mallin kesken sen sijaan, että käyttäisi yhtä mallia kaikkeen. Järjestelmä päättää pyyntokohtaisesti, kuinka paljon laskentaa tarvitaan, mitkä mallit osallistuvat ja miten niiden tulokset yhdistetään. Kehittäjän mukaan Echo saavutti ensimmäisessä evaluointimixissä suunnilleen saman tuloksen kuin Fable noin kolmanneksella sen inferenssikustannuksista. Järjestelmä on vielä kehitysvaiheessa, ja allokaatiopäätökset epäonnistuvat edelleen osassa tapauksista.
news.ycombinator.com ↗
claude-thermos pitää Claude Code -välimuistin lämpimänä subagenttiodottelun aikana
Claude Coden prompt-välimuistilla on 5 minuutin TTL, ja kun pääagentti odottaa subagentin vastausta yli sen ajan, koko kontekstihistoria täytyy enkoodata uudelleen kalliimmalla write-hinnalla. claude-thermos kiertää ongelman ajamalla pienen reverse proxyn paikallisesti ja lähettämällä säännöllisesti minimaalisia lämmityspyyntöjä, jotka pitävät välimuistin hengissä. Tekijän mukaan nämä turhat uudelleenenkoodaukset vastasivat noin 22 % laskusta 185 mitatussa sessiossa.
github.com ↗
Avoimen lähdekoodin AI-kritiikki ei kestä lähempää tarkastelua
Kimi K3:n julkaisu käynnisti uuden kierroksen avoimen lähdekoodin AI-vastaisesta puheesta. Kriitikot, kuten OpenAI:n Dean Ball, väittävät että vapaasti saatavilla olevat mallit ovat vaarallisia – mutta argumentit ovat heikkoja. Historia osoittaa, että avoimen lähdekoodin ohjelmistojen tukahduttaminen on käytännössä mahdotonta: salaustekniikan vientirajoitukset 1990-luvulla epäonnistuivat ja heikensivät amerikkalaisia toimijoita suhteessa muuhun maailmaan. Avoimen lähdekoodin malleja kehittävät myös monet kaupalliset toimijat, kuten Nvidia, Thinking Machines Lab ja Meta, joilla on omat taloudelliset kannustimensa – ei vain Kiina.
tombedor.dev ↗
Screenpipe tallentaa ruudun ja äänen paikallisesti ja syöttää datan AI-agenteille
Screenpipe on työpöytäsovellus, joka tallentaa näytön tapahtumat ja äänen paikallisesti SQLite-tietokantaan ja tarjoaa AI-agenteille hakukelpoisen muistin käyttäjän toiminnasta. Sovellus hyödyntää käyttöjärjestelmän saavutettavuuspuuta OCR:n sijaan aina kun mahdollista, mikä vähentää resurssien kulutusta. Agentit voivat käyttää dataa esimerkiksi tehtävälistojen koostamiseen, CRM-päivityksiin tai toistuvien työnkulkujen automatisointiin. Koodi on lähdekoodi-saatavilla GitHubissa, mutta kaupallinen käyttö vaatii oman lisenssin.
news.ycombinator.com ↗
scrapemychats vie ChatGPT-keskusteluhistorian ulos business-tileiltä
ChatGPT:n Team- ja business-tilit eivät tarjoa datan vientiä samalla tavalla kuin henkilökohtaiset tilit. scrapemychats on avoimen lähdekoodin Python-työkalu, joka ajaa oikeaa Chrome-ikkunaa käyttäjän omalla istunnolla ja tallentaa kaikki keskustelut sekä liitetiedostot paikallisesti. Työkalu rakentaa viedystä datasta offline-arkiston, joka sisältää hakutoiminnon ja toimii suoraan selaimessa ilman verkkoyhteyttä. Vaatimukset ovat Python 3.10+ ja Google Chrome tai Microsoft Edge.
github.com ↗
OneCLI pitää API-avaimet piilossa AI-agenteilta välityspalvelimen avulla
OneCLI on avoimen lähdekoodin gateway, joka istuu AI-agenttien ja niiden kutsumien palveluiden välissä. Agentit käyttävät valeavainta, jonka gateway vaihtaa oikeaan tunnukseen lennossa – agentti ei koskaan näe todellisia credentials-tietoja. Gateway on toteutettu Rustilla, salaus käyttää AES-256-GCM:ää ja hallintapaneeli on rakennettu Next.js:llä. Projekti tukee myös Bitwardenin kaltaisia salasananhallintaohjelmia, jolloin avaimia ei tarvitse tallentaa palvelimelle lainkaan.
github.com ↗