Omslag från rapporten AI för bättre hälsa (Swelife, 2020)

Bästa delarna av rapporten AI för bättre hälsa

Jag har trots coronahysterin fått lite återkoppling på Swelife-rapporten AI för bättre hälsa som släpptes i slutet på januari. Bland annat av en smått exalterad student på Karolinska Institutet som efter genomläsning verkligen ställde jobbiga frågor när hen intervjuade mig, med frågor som tog nästa steg från det rapporten tog upp. Tuff intervju men definitivt intressant!

På VGR håller vi just nu på med ett officiellt svar på den vitbok om AI som EU-kommissionen släppt. Tydligen är whitepaper samma sak som vitbok. Det lärde jag mig först nu, vid 42 års ålder…
Även för det arbetet fick jag anledning att summera de mest akuta frågorna när det gäller AI, även fast det där gäller fler områden är just hälso- och sjukvård.

Rapporten till Swelife, eller ja, det var egentligen ett tilläggsuppdrag direkt från innovationsmyndigheten Vinnova om jag förstod det rätt då alla andra SIP:ar också gjorde samma typ av arbete på sitt område, den rapporten var lång. 13 sidor med referenser och 214 sidor allt som allt.

Vad är godbitarna ur AI för bättre hälsa?

Om rapporten släppts idag hade även nedan citat fått komma med som en nyansering över vilken förväntan vi ska ha på artificiell intelligens (AI). Karen Hao på MIT Tech Review skriver kloka och beska budskap mest hela tiden. Nu senast:

Since the 1950s, artificial intelligence has repeatedly overpromised and underdelivered. While recent years have seen incredible leaps thanks to deep learning, AI today is still narrow: it’s fragile in the face of attacks, can’t generalize to adapt to changing environments, and is riddled with bias. All these challenges make the technology difficult to trust and limit its potential to benefit society.”
A debate between AI experts shows a battle over the technology’s future (MIT Technology Review, mars 2020)

Nedan är mina favoriter ur AI för bättre hälsa.

EU behöver en digital suveränitet

Försäkringskassans vitbok om molntjänster, vilket pekar i riktning mot GAIA-X (ett Europeiskt moln), och den digitala suveränitet både Sverige och EU så fatalt misslyckats med så här långt:

Flera stater, däribland USA, Kina och Indien, har numera lagstiftning som ger deras myndigheter rätt att under vissa förutsättningar ta del av data och uppgifter som lagras hos tjänsteleverantörer under sin jurisdiktion, även om lagringen sker utanför den egna statens territorium. Det har mot den bakgrunden uppstått en debatt om huruvida det är förenligt med svensk rätt och EU-rätt att använda sig av de molntjänster som erbjuds på marknaden.”

På samma tema:

The European economy urgently needs an infrastructure that ensures data sovereignty.”
Peter Altmaier , finansminister I Tyskland

AI måste linjera med de globala hållbarhetsmålen!

AI behöver förstås linjera mot de globala hållbarhetsmålen:

”The emergence of artificial intelligence (AI) and its progressively wider impact on many sectors requires an assessment of its effect on the achievement of the Sustainable Development Goals. Using a consensus-based expert elicitation process, we find that AI can enable the accomplishment of 134 targets across all the goals, but it may also inhibit 59 targets.”
The role of artificial intelligence in achieving the Sustainable Development Goals (Nature, januari 2020)

På hållbarhetstemat återkommer Karen Hao i MIT Tech Review (nej, data är inte den nya oljan, inte heller det nya guldet):

Deep learning has a terrible carbon footprint.”
Training a single AI model can emit as much carbon as five cars in their lifetimes (MIT Technology Review, juni 2019)

Opt-in eller opt-out?

Angående en lagstiftning som förutsätter att befolkningen aktivt tackar nej, snarare än ger samtycke:

”95 procent av allmänheten är positiv till att dela sin hälsodata för forskning och hälsofrämjande syften.”
Forska!Sveriges opinionsundersökning 2019

AI? Va?

Behovet av att precisera vad som avses med ”AI”, särskilt om man inte avser mer teknikneutrala ansatser:

”According to the survey from London venture capital firm MMC, 40 percent of European startups that are classified as AI companies don’t actually use artificial intelligence in a way that is “material” to their businesses. MMC studied some 2,830 AI startups in 13 EU countries to come to its conclusion, reviewing the “activities, focus, and funding” of each firm.”
Forty percent of ‘AI startups’ in Europe don’t actually use AI, claims report (The Verge, mars 2019)

AI-vinter på ingång

Tecken på att AI-hajpen är döende och på väg in i ännu en AI-vinter:

Just about every AI advance you’ve heard of depends on a breakthrough that’s three decades old. Keeping up the pace of progress will require confronting AI’s serious limitations.”
Is AI Riding a One-Trick Pony? (MIT Technology Review, 2017)

På samma tema fast från hösten 2019:

”“We’re kind of like the dog who caught the car,” Aguera y Arcas said. Deep learning has rapidly knocked down some longstanding challenges in AI—but it doesn’t immediately seem well suited to many that remain. Problems that involve reasoning or social intelligence, such as weighing up a potential hire in the way a human would, are still out of reach.”
A sobering message about the future at AI’s biggest party (Wired, December 2019)

Samma tema och samma konferens, av Bengio som är en ”gudfader” inom deep learning:

”[AI] need much more data to learn a task than human examples of intelligence, and they still make stupid mistakes.”
– Yoshua Bengio, under NeuroIPS 2019

Kan den här AI:n användas till något meningsfullt för någon?

Kanske mest brutal och förnuftig är Claes Lundström vid hans presentation på Almedalen 2019:

”Paradoxen; hur kan det vara så att vi säger att AI är minst lika bra som mänskliga experter, å andra sidan så verkar AI inte ens vara användbar i dagsläget?”
– Claes Lundström under seminariet Hur kan AI gå från vision till verklig patientnytta? (Almedalen 2019)

Forskning och viljan att hitta något som kan publiceras

Angående vikten av realistiska data, realistiska omständigheter och någon form av ambition att nå en framtida implementering. Mycket AI-forskning är mer eller mindre meningslös:

”Of 516 eligible published studies, only 6% (31 studies) performed external validation. None of the 31 studies adopted all three design features: diagnostic cohort design, the inclusion of multiple institutions, and prospective data collection for external validation.
[…]
Nearly all of the studies published in the study period that evaluated the performance of AI algorithms for diagnostic analysis of medical images were designed as proof-of-concept technical feasibility studies and did not have the design features that are recommended for robust validation of the real-world clinical performance of AI algorithms.”
Dong Wook Kim , et al. (Korean Journal of Radiology, februari 2019)

EU och Sverige ligger efter kompetensmässigt! Amirite?! Right?

Angående den förhärskande bilden att EU ligger efter när det gäller AI-kompetens, Italien har fler ledande AI-forskare än Kina…:

”Through 2017, the European Union led with an estimated 5,787 researchers, ahead of the United States (5,158) and China (977). The United Kingdom (1,177), Germany (1,119), France (1,056), Italy (987), and Spain (772) combined for 5,111 such individuals.”
Who Is Winning the AI Race: China, the EU or the United States? (Center for Data Innovations, augusti 2019)

Läsa den fulla AI-rapporten

Om du mot förmodan vill läsa den längre rapporten finns den att:

Bakgrundsmaterial:


Publicerad: 2020-04-18
Kategori: Artificiell intelligens

‹ bloggen

Hör av dig