Kunstmatige intelligentie

[donderdag 2 april 2020]
De rest van het semester gaat online. Via BlackBoard (BB) en deze website houd ik iedereen op de hoogte.
Iedere donderdagmiddag Live Room van 14:00 tot 15:00 uur (of later), met name voor vragen over de programmeeropgaves.
Opgave 2 is geheel nagekeken. Werk nu aan Opgave 3.
Bekijk de video's: iedere week komen er nieuwe, zowel over de stof als over de programmeeropgaves; en ook over sommen (uitwerkingen 11, 16 en 17).

Voorjaar 2020: Colleges/werkcolleges zijn op donderdagen, te beginnen op 6 februari 2020; college van 11:15 tot 13:00, werkcollege 's middags. Locatie: De Sitterzaal in het Huygens (op 13 februari: Gorlaeus 2). Niet op 26 maart.

Svp aanmelden via Blackboard. En voor het (her)tentamen via uSis.

Dit jaar voor het eerst zijn de college's na afloop ook op video te bekijken.

Het vak Kunstmatige intelligentie, ook wel AI (van Artificial Intelligence) genoemd, wordt verzorgd door dr. W.A. (Walter) Kosters, geassisteerd door Rick Boks, Koen Bouwman en Gilles Ottervanger, en wordt in het voorjaar van 2020 gegeven. (Eerstvolgende keer daarna: voorjaar 2021.)

Note that the course is in DUTCH.

Algemene informatie  |  Materiaal  |  Archief  |  Practicum  |  Colleges

Tijdens de werkcolleges wordt er gewerkt aan kleine opgaven, aan oude tentamenopgaven en in de computerzalen aan de programmeeropgaven — en de bijbehorende verslagen. Data en onderwerpen voor de vier sommen-werkcolleges zijn:

• donderdagmiddag 5 maart 2020: Opgaven 1 (in PDF), in het bijzonder: 2, 3, 7, 8, 14
• donderdagmiddag 9 april 2020: Opgaven 1 (vervolg): 11, 16, 17
• donderdagmiddag 30 april 2020: Opgaven 2 (in PDF): 19, 23, 27, 29, 10
• donderdagmiddag 14 mei 2020: Opgaven 2 (vervolg): 30, 31, 33, 13, 14

     Uitwerking Opgave 11 — Uitwerking Opgave 16 — Uitwerking Opgave 17

Geef opmerkingen svp door.

Het vak levert 6 (zes) ECTS punten op. Naast het voldoende maken van het tentamen is het hiervoor ook nodig het practicum voldoende te hebben. Het eindcijfer wordt grotendeels bepaald door het tentamencijfer, enigszins afgerond in de richting van het gemiddelde practicumresultaat (indien dat het eindcijfer verhoogt), mits beide voldoende zijn (om precies te zijn: als het gemiddelde practicumcijfer G groter is dan het tentamencijfer T, wordt het eindcijfer hun gemiddelde, (G+T)/2, waarbij dit maximaal 1 punt meer mag worden dan T; anders wordt het eindcijfer gelijk aan het tentamencijfer). Het eindcijfer wordt afgerond op het dichtstbijzijnde getal uit de verzameling {1,2,3,4,5, 6,6.5,7,7.5,8,8.5,9,9.5,10}. Ten einde het practicum voldoende te maken, moeten de vier opgaven alle met minstens een 6 of een "OK" beoordeeld zijn (die laatste telt voor een zes voor de berekening van het gemiddelde G). Als een opgave niet aan de eisen voldoet, moet deze zo snel mogelijk worden aangevuld; lever in dat geval ook de nagekeken eerdere versie van het verslag weer in.
Het college is in eerste instantie bedoeld voor tweedejaars studenten Informatica, maar is ook interessant voor andere belangstellenden; voorkennis van de programmeertaal C++ is sterk aan te raden.

De tentamendata in 2020 zijn:

• maandag 15 juni 2020, 10:00-13:00 uur; Snellius
• hertentamen: vrijdag 10 juli 2020, 10:00-13:00 uur; Snellius

Alle cijfers, ook die van de programmeeropgaven, worden beschikbaar gesteld via Blackboard.

Daarnaast werd in een redelijk ver verleden nog speciaal aandacht besteed aan het onderwerp Data mining, maar aangezien er nu een apart derdejaars vak is met die titel ...

Overige literatuur (niet kopen — tenzij je erg veel geld hebt):

• Ethem Alpaydin, Introduction to machine learning, The MIT Press, Second edition, 2010.
• Christopher M. Bishop, Pattern recognition and machine learning, Springer, 2006.
• George F. Luger, Artificial intelligence, Structures and strategies for complex problem solving, Addison-Wesley, Sixth edition, 2009.
• Tom M. Mitchell, Machine learning, McGraw-Hill, 1997.
• Mehryar Mohri, Afshin Rostamizadeh and Ameet Talwalkar, Foundations of machine learning, The MIT Press, 2012.
• Michael Negnevitsky, Artificial intelligence, A guide to intelligent systems, Addison-Wesley, Third edition, 2011.
• Georgios N. Yannakakis and Julian Togelius, Artificial intelligence and games, Springer, 2019.

• tentamen 23 juni 2010 (in PDF); uitwerkingen (in PDF)
• tentamen 22 juni 2011 (in PDF)
• tentamen 13 juni 2012 (in PDF)
• tentamen 19 juni 2013 (in PDF)
• tentamen 2 juni 2014 (in PDF); uitwerkingen (in PDF)
• tentamen 1 juni 2015 (in PDF); uitwerkingen (in PDF, gescand)
• tentamen 31 mei 2016 (in PDF); uitwerkingen (in PDF, gescand)
• tentamen 29 mei 2017 (in PDF)
• tentamen 18 juni 2018 (in PDF); uitwerkingen (in PDF)
• tentamen 17 juni 2019 (in PDF)

1. Inleiding ("dit is de tweede opdracht van het college ...", met verwijzing naar de website)
2. Uitleg probleem (plaatje; "de spelregels zijn ...", gebruikte definities)
3. Relevant werk ("stelling zegt dat ...")
4. Aanpak (plaatje; "een drielaags neuraal netwerk ...")
5. Implementatie ("een 2-dimensionaal array"; "C++"; kort!)
6. Experimenten (tabel, grafiek)
7. Conclusie en verder onderzoek ("ging fout als de testopstelling niet verlicht was")
8. Referenties (genummerd; naar alle wordt verwezen; "handleiding Java-robots ...", "Russell en Norvig ...", "sheets college ...")
   Een fatsoenlijke referentie ziet er uit als:
   [1] S.J. Russell en P. Norvig, Artificial intelligence, A modern approach, third edition, Prentice Hall, 2010
9. Appendix: het programma; gebruik package listings, zie onder.
   In geval van aangepaste code: geef alleen de wijzigingen.

De deadlines zijn strikt, overleg eventueel met de docent(en). Voor alle opdrachten geldt dat ze nog voorlopig zijn, aanvullingen tijdens het semester zullen zeker voorkomen. Eigen initiatief wordt —na overleg— op prijs gesteld.
De opgaven worden per stuk als volgt beoordeeld: er wordt gekeken naar het verslag en het programma (met name werking en leesbaarheid); originaliteit beinvloedt de eind-afronding.
Het practicum bestaat zoals gezegd uit vier opgaven:

1. Monte Carlo; deadline donderdag 27 februari 2020, 11:00 uur
   Zie Clobber.
2. Agenten & Robotica; deadline donderdag 19 maart 2020, 11:00 uur
   Zie hier.
3. Spellen — α-β en Othello; deadline donderdag 23 april 2020, 11:00 uur
   Zie hier, ook voor de video's.
4. Neurale netwerken; deadline donderdag 14 mei 2020, 11:00 uur
   Zie hier — TODO.

Let op: dit zijn (deels) nog de colleges van vorig jaar (2019).

1. donderdag 6 februari 2020
   Algemene introductie; het practicum, met name de eerste opgave.
   Hoofdstuk 1 (Introductie) in vogelvlucht, p. 1-30; zie de sheets:
       Introductie — video

   leuk leesvoer

   Alan M. Turing, Computing machinery and intelligence  Mind 59 (1950) 433-460  doi:10.1093/mind/LIX.236.433; ophalen vanaf een PC binnen de universiteit

   Jason Hutchens, How to pass the Turing test by cheating  Technical report, 1997

2. donderdag 13 februari 2020
   Hoofdstuk 2 (Intelligente agenten), p. 34-59; zie de sheets:
        Intelligente agenten — video

   En een paar sheets over Combinatorial Game Theory (dat heeft met Clobber te maken ... en is geen tentamenstof).

3. donderdag 20 februari 2020
   Hoofdstukken 7 (Logisch redenerende agenten) en 8 (Eerste orde logica), p. 234-252, 265-267 en 285-306; zie de sheets:
        Logische agenten — video

4. donderdag 27 februari 2020
   Algemene informatie over de tweede practicum-opgave.
   Hoofdstuk 3 (Probleemoplossen en zoeken), p. 64-109; zie de sheets:
        Probleemoplossen en zoeken — video

5. donderdag 5 maart 2020
   (vervolg vorig college) Hoofdstuk 4 (Gericht zoeken), p. 120-130; zie de sheets:
        Gericht zoeken — video

   Op donderdagmiddag 5 maart 2020 is in zaal 302 een werkcollege met sommen, zie Opgaven 1 (van 2): 2, 3, 7, 8, 14.

6. donderdag 12 maart 2020
   Hoofdstuk 5 (Spel(l)en), p. 161-190; zie de sheets:
        Spel(l)en — video

   leuk leesvoer

   H. Jaap van den Herik, Jos W.H.M. Uiterwijk en Jack van Rijswijck,  Games solved: Now and in the future   Artificial Intelligence 134 (2002) 277-311  doi:10.1016/S0004-3702(01)00152-7; ophalen vanaf een PC binnen de universiteit

   Jonathan Schaeffer, Neil Burch, Yngvi Björnsson, Akihiro Kishimoto, Martin Müller, Robert Lake, Paul Lu en Steve Sutphen,   Checkers is solved   Science 317 (2007) 1518-1522   doi:10.1126/science.1144079; ophalen vanaf een PC binnen de universiteit

   David Silver et al., A general reinforcement learning algorithm that masters chess, shogi and Go through self-play   Science 362 (2018) 1140-1144  doi:10.1126/science.aar6404; ophalen vanaf een PC binnen de universiteit

   ================= vanaf hier worden college en werkcollege online verzorgd ==================

7. donderdag 19 maart 2020
   Spel(l)en — vervolg.

   video's: Spelbomen (sheets 15/20) — alpha-beta-algoritme (sheets 21/27) — Kansen (sheets 28/34) — Othello: derde programmeeropgave

   Algemene informatie over de derde practicum-opgave, zie bovenstaande video.

8. donderdag 26 maart 2020
   Hoofdstuk 6 (Constraint Satisfaction Problemen), p. 202-223; zie de sheets:
        CSP's

   video's: Othello: tips — Introductie CSP's (sheets 1/10) — Backtracking (sheets 11/18) — Geavanceerde ideeen (sheets 19/28)

   Vanaf donderdag 26 maart 2020 is er iedere donderdagmiddag van 14:00 tot 15:00 uur een Live Room, bedoeld voor vragen over de derde programmeeropgave. Voor het webadres, zie BlackBoard.

9. donderdag 2 april 2020
   Robotica. Bekijk Hoofdstuk 25 (Robotica), p. 971-1019; zie ook de sheets:
        Robotica

   video's: Opmerkingen over nagekeken Opgave 2 — Robotica: algemeen (sheets 1/10) — Voorbeelden (sheets 11/20) — Uitwerking Opgave 11 — Uitwerking Opgave 16 — Uitwerking Opgave 17

   Maak de volgende sommen: Opgaven 1 (van 2): 11, 16, 17. (Zie de video's met uitwerkingen.)

   leuk leesvoer

   Rodney A. Brooks, Intelligence without representation  Artificial Intelligence 47 (1991) 139-159  doi:10.1016/0004-3702(91)90053-M; ophalen vanaf een PC binnen de universiteit

10. donderdag 9 april 2020
    Hoofdstuk 18.7 (Neurale netwerken), p. 727-737; zie de sheets:
         Neurale netwerken

    leuk leesvoer

    William S. Noble, What is a support vector machine?  Nature Biotechnology 24 (2006) 1565-1567  doi:10.1038/nbt1206-1565; ophalen vanaf een PC binnen de universiteit

    Yann LeCun, Yoshua Bengio en Geoffrey Hinton, Deep learning  Nature 521 (2015) 436-444  doi:10.1038/nature14539; ophalen vanaf een PC binnen de universiteit

11. donderdag 16 april 2020
    Hoofdstuk 18 (Leren van/uit observaties), met name ID3, en Hoofdstuk 19.1, kort;
    Hoofdstuk 21.1,2,3 (Reinforcement leren, geillustreerd met 17.1,2 (deels)), p. 693-758, 768-776 (en 830-845); zie de sheets:
         Leren

    Maak de volgende sommen: Opgaven 2 (van 2): 19, 23, 27, 29, 10.

12. donderdag 23 april 2020
    Vervolg Leren.
    Hoofdstuk 4.3 (Genetische algoritmen), p. 126-129; zie de sheets:
         Genetische algoritmen

    Algemene informatie over de vierde practicum-opgave.

13. donderdag 30 april 2020
    Hoofdstuk 13 (Onzekerheid; kort) en Hoofdstuk 14 (Bayesiaanse netwerken), p. 480-499 en 510-529; zie de sheets:
         Bayesiaanse netwerken

14. donderdagen 7 en 14 mei 2020
    Vervolg plus van alles, waaronder een oud tentamen (met antwoorden).

    Maak de volgende sommen: Opgaven 2 (van 2): 30, 31, 33, 13, 14.

2 april 2020 — http://www.liacs.leidenuniv.nl/~kosterswa/AI/index.html