Veckobrev v12
Den här veckan blir en kort uppdatering då mina helgplaner inte gick som tänkt 🤷.
Veckans bok: Superintelligence
Veckans bok som jag läste ut är Superintelligence av Nick Bostrom. Boken har tagit mig lång tid att läsa. Inte för att den inte är intressant, utan för att den får en att tänka. Var och varannan sida måste man ställa ner boken för att reflektera. Superintressant! Boken rekommenderas varmt, men var medveten om att det kan vara tung läsning (mycket tekniska detaljer).
Boken passar också att läsa i tiden då ChatGPT börjar växa. I de sista kapitlerna nämns en viss dilemma inom forskning kring ämnen som potentiellt kan vara farliga. Dilemmat handlar om att förhindra farliga och skadliga effekter av artificiell intelligens (AI). För att göra detta måste vi forska kring AI och utveckla säkerhetsåtgärder. Men samtidigt kan forskning och utveckling av AI skapa farliga och potentiellt förödande konsekvenser om tekniken hamnar i fel händer eller används på ett oansvarigt sätt.
De politiska incitament för att tillhandahålla resurser för forskning uppstår oftast först när allmänheten är medveten om riskerna med AI. Detta skapar en ond cirkel där vi behöver forska kring AI för att göra det säkert, men det säkraste alternativet skulle vara att inte forska kring det alls.
Så det bästa av världar är att forska kring AI tillräckligt snabbt och mycket för att vi ska ta det på allvar och att samhället uppmanar sina politiker att göra det säkert. Men att vi efter det ska forska tillräckligt långsamt för att förlänga tiden till att skapa ett generellt AI, som har stora risker i fel händer.
Passande nog, bara några dagar efter att jag läst färdigt boken, skrev Future of life ett öppen brev om att stoppa stora AI experiment.
We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.
Superintelligence-boken släpptes 2014. Att läsa dess slutkläm om AI forskningen och sedan se det utspelas i realtid gav gåshud. ChatGPT har öppnat upp ögonen för AI något oerhört, att nu börja “sakta ner” forskningen går i linje med boken.
Jag hoppas att future of life får genomslag och att AI laboratorier följer deras råd.
Veckans citat
The same water that softens the potato hardens the egg
Ett ryskt ordspråk som jag hörde i veckan. Det illustrerar hur samma omständigheter eller situationer kan ha olika effekter på olika människor. Precis som hur samma vatten kan göra en potatis mjuk och en äggula hård beroende på deras struktur, kan samma upplevelser eller hinder ha olika effekter på olika människor beroende på deras personlighet, mentala styrka och motståndskraft.
En person med en mjuk personlighet kan kännas överväldigad och nedbruten av en svår situation, medan en person med en stark personlighet kan se samma situation som en möjlighet att växa och utvecklas. Därför kan det vara viktigt att vara medveten om våra egna styrkor och begränsningar, och att bygga upp vår egen motståndskraft så att vi kan hantera olika situationer på ett positivt sätt.
Veckans podcast: Fem saker vi ångrar när vi blir äldre
RikaTillsammans - Fem saker vi ofta ångrar när vi blir äldre
Jan & Caroline pratar i deras podd, RikaTillsammans, om Fem saker vi ofta ångrar när vi blir äldre. De utgår från Bronnie Wares bok “The Top Five Regrets of the Dying”. Jag fann dreflektionerna insiktsfulla, hoppas du gör det med 🦦
Veckans länk: When was Lars happy?
En kort men underhållande sätt att tänka kring när man skapar värde för sin kund/användare.
Veckans video: Quantum computers break RSA
Quantum computers break RSA, det här har jag fascinerats tidigare när jag läst olika säkerhetskurser på LTH!Kvantdatorer har helt andra egenskaper än vad en ordinarie dator har, och därmed kan knäcka vissa krypteringsalgoritmer väldigt enkelt. Förutom alla stora världsförändringar vi genomgår kommer det att bli intressant vilka följder detta får i framtiden om en kvantdator väl lyckas med det. Har vi alla gått över till säkrare algoritmer tills dess, och detta blir som en Y2K bugg? Alltså kaos i förväg, men sen inte lika stor påverkan i efterhand. Eller kommer detta leda till någon stor förändring?