This paper addresses the black-box problem in artificial intelligence (AI), and the related problem of explainability of AI in the legal context. We argue, first, that the black box problem is, in fact, a superficial one as it results from an overlap of four different – albeit interconnected – issues: the opacity problem, the strangeness problem, the unpredictability problem, and the justification problem. Thus, we propose a framework for discussing both the black box problem and the explainability of AI. We argue further that contrary to often defended claims the opacity issue is not a genuine problem. We also dismiss the justification problem. Further, we describe the tensions involved in the strangeness and unpredictability problems and suggest some ways to alleviate them.

<p>Podczas pobytu na dworze książęcym w Ferrarze w latach 40. XVI w. Jan Radziwiłł otrzymał w darze od Herkulesa II d’Este anonimowy rękopis włoskiego dziełka poruszającego zagadnienia z dziedziny sztuki puszkarskiej. Z myślą o wzbudzeniu w wykształconej części braci szlacheckiej większego zainteresowania wojskową literaturą techniczną i tym samym zainaugurowania na gruncie polskim polemiki wokół nauk puszkarskich, najprawdopodobniej już po powrocie do kraju manuskrypt ten został przez niego przetłumaczony na język polski, przeredagowany i zatytułowany <em>O tajemnicach puszkarskich, każdemu rycerskiemu człowiekowi potrzebnych </em>(Wilno 1547 [?]). Zamierzeniem tego artykułu jest prezentacja historii pierwowzoru staropolskiego podręcznika technicznego na marginesie dyskusji prowadzonej w polskich i europejskich kręgach piśmienniczych na temat sprawy puszkarskiej.</p>