Kuinka efektiivinen altruisti päätyy tutkimaan sovellettua matematiikkaa itsenäisesti? Vieraana Xylix Pelttari

Nyt luvassa on moniulotteinen jakso, jossa puhutaan niin tutkimuksen vertaisarviointiprosessien ongelmista, lahjoittamisen ja taloudellisen itseäisyyden ristiriidoista kuin siitä, miten rationalisti- ja EA-nettikeskustelut eroavat toisistaan. Keskustelun punaisena lankana on kysymys, miksi Xylix ajattelee, että teoreettinen tekoälytutkimus on vaikuttavin asia, mitä hän tällä hetkellä voi tehdä.Xylix tutustui efektiivisiin altruisteihin opiskellessaan tietojenkäsittelytiedettä . Hän teki useamman vuoden yhteisönrakennusta Effective Altruism Finlandille vapaaehtoisena koodaustöiden ja opintojen ohella. Keväällä Xylix otti hypyn tuntemattomaan nähdäkseen, pystyykö hän kontribuioimaan turvallisemman tekoälyn kehittämiseen tekemällä itsenäistä "agent foundations" -tutkimusta, eli perustutkimusta eri toimijoiden arvojen ja tekojen linjaamisesta. Xylixin lukusuosituksetWei Dai – Legible vs. Illegible AI Safety Problems (LessWrong, 2025) — Miksi näkyvien turvallisuusongelmien ratkaiseminen voi olla jopa haitallista, kun taas piilevien ongelmien tekeminen näkyviksi on kriittistä. https://www.lesswrong.com/posts/PMc65HgRFvBimEpmJ/legible-vs-illegible-ai-safety-problemsRichard Hamming – You and Your Research (1986) — Klassinen puhe siitä, miksi harvat tutkijat tekevät merkittävää työtä: tärkeiden ongelmien valinnasta, rohkeudesta ja ajankäytöstä. https://www.cs.virginia.edu/~robins/YouAndYourResearch.htmlHolden Karnofsky – Minimal-trust Investigations (Cold Takes, 2021) — Väitteen ymmärtäminen omin voimin, ilman luottamusta auktoriteetteihin. https://www.cold-takes.com/minimal-trust-investigations/Holden Karnofsky – Useful Vices for Wicked Problems (Cold Takes, 2022) — Laiskuus, kärsimättömyys, ylimielisyys ja itsesuojelu työkaluina, kun ongelma on liian laaja ratkaistavaksi kunnolla. https://www.cold-takes.com/useful-vices-for-wicked-problems/Muuta jaksossa mainittuaKeskustelufoorumitLessWrong — https://www.lesswrong.com/EA Forum (Effective Altruism Forum) — https://forum.effectivealtruism.org/AI Alignment Forum — https://www.alignmentforum.org/Tutkimusrahoitukseen liittyvät toimijatLightcone Infrastructure — ylläpitää LessWrongia ja Lighthaven-kampusta Berkeleyssä — https://www.lightconeinfrastructure.com/ (Lighthaven: https://www.lighthaven.space/)Machine Intelligence Research Institute (MIRI) — mm. corrigibility-tutkimus — https://intelligence.org/Survival and Flourishing Fund (SFF) — https://survivalandflourishing.fund/Coefficient Giving (entinen Open Philanthropy, nimenmuutos marraskuussa 2025) — https://coefficientgiving.org/Scott Alexander – Astral Codex Ten -blogi — https://www.astralcodexten.com/Muuta mainittuaAI 2027 — jaksossa mainittu tekoälykehitysskenaario — https://ai-2027.com/AFFINE Superintelligence Alignment Seminar — Xylixin käymä agent foundations -tutkimukseen keskittyvä seminaari — https://www.affi.ne/Against Malaria Foundation (AMF) — https://www.againstmalaria.com/