Space-Time Embedded Intelligence

Orseau, Laurent; Ring, Mark

doi:10.1007/978-3-642-35506-6_22

Cited by 28 publications

(32 citation statements)

References 13 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…By modelling self-modification formally, we can assess some of the consequences of the self-modification possibility, and look for ways to manage the risks and harness the possibilities. Formal models of self-modification have been developed in the UAI-framework [15,65,66]. We next discuss some types of self-modification in more detail.…”

Section: Self-modificationmentioning

confidence: 99%

Universal Artificial Intelligence

Hutter

2018

Foundations of Trusted Autonomy

View full text Add to dashboard Cite

Artificial intelligence (AI) bears the promise of making us all healthier, wealthier, and happier by reducing the need for human labour and by vastly increasing our scientific and technological progress.Since the inception of the AI research field in the mid-twentieth century, a range of practical and theoretical approaches have been investigated. This chapter will discuss universal artificial intelligence (UAI) as a unifying framework and foundational theory for many (most?) of these approaches. The development of a foundational theory has been pivotal for many other research fields. Well-known examples include the development of Zermelo-Fraenkel set theory (ZFC) for mathematics, Turingmachines for computer science, evolution for biology, and decision and game theory for economics and the social sciences. Successful foundational theories give a precise, coherent understanding of the field, and offer a common language for communicating research. As most research studies focus on one narrow question, it is essential that the value of each isolated result can be appreciated in light of a broader framework or goal formulation. UAI offers several benefits to AI research beyond the general advantages of foundational theories just mentioned. Substantial attention has recently been called to the safety of autonomous AI systems [10]. A highly intelligent autonomous system may cause substantial unintended harm if constructed carelessly. The trustworthiness of autonomous agents may be much improved if their design is grounded in a formal theory (such as UAI) that allows formal verification of their behavioural properties. Unsafe designs can be ruled out at an early stage, and adequate attention can be given to crucial design choices.

show abstract

Section: Self-modificationmentioning

confidence: 99%

Universal Artificial Intelligence

Hutter

2018

Foundations of Trusted Autonomy

View full text Add to dashboard Cite

show abstract

“…A megoldások ezekre a problémákra sokkal megbízhatóbbá és kiszámíthatóbbá tehetik a mindenre alkalmas rendszerek viselkedését. Példák ezen a területen: érvelés és döntések korlátozott számítási erőforrások esetén (Horvitz, 1987;Russel -Subramanian, 1995), hogyan vehető figyelembe a kapcsolat az MI rendszerek viselkedése és környezetük, illetve egyéb ágensek viselkedése között (Halpern -Pass, 2013;Hintze, 2014;LaVictoire et al, 2014;Tennenholtz, 2004), hogyan kell gondolkodnia a környezetébe ágyazott ágenseknek (Orseau -Ring, 2012;, illetve hogyan érveljenek az olyan bizonytalan tényezők logikai következményeivel kapcsolatban, mint a különböző hiedelmek vagy egyéb determinisztikus számítások , Probabilistic Numerics, 2014. Ezeket a témákat szoros kapcsolatuk miatt hasznos lehet egyben kezelni (Halpern -Pass, 2011, Halpern et al, 2014.…”

Section: éRvényességunclassified

Kutatási prioritások a megbízható és hasznos mesterséges intelligencia létrehozásáért

tartalom¹

2017

InfTárs

View full text Add to dashboard Cite

Hivatkozás/reference:"Kutatási prioritások a megbízható és hasznos mesterséges intelligencia létrehozásáért", Informá-ciós Társadalom, XV. évf. (2015) 4.szám, 60-76. old. http://dx.doi.org/10.22503/inftars.XV.2015 A folyóiratban közölt művek a Creative Commons Nevezd meg! -Ne add el! -Így add tovább! 4.0 Nemzetközi Licenc feltételeinek megfelelően használhatók. Kutatási prioritások a megbízható és hasznos mesterséges intelligencia létrehozásáértA mesterséges intelligenciával kapcsolatos kutatások sikeressége magában hordozza a lehetősé-gét annak, hogy az emberiség példa nélküli elő-nyökhöz jusson. Érdemes ezért feltárni azokat a kutatási területeket, amelyek az esetleges buktatók elkerülésével egy időben segíthetnek maximalizálni az elérhető eredményeket. Jelen tanulmány számos ilyen témakört és példát mutat be (a teljesség igényének hajszolása nélkül), amelyek biztosíthatják, hogy az mesterséges intelligencia a jövőben is robusztus és az ember számára elő-nyös maradjon. Kulcsszavak: mesterséges intelligencia, rövid és hosszú távú hatások, jog és etika, kutatási irányok

show abstract

“…The question of how to model agents as an ordinary part of the environment is of interest in the speculative study of human-level and smarter-than-human artificial intelligence [13,14]. Although such systems are still firmly in the domain of futurism, there has been a recent wave of interest in foundational research aimed at understanding their behavior, in order to ensure that they will behave as intended if and when they are developed [15,16,14].…”

Section: Related Workmentioning

confidence: 99%

Reflective Oracles: A Foundation for Game Theory in Artificial Intelligence

Fallenstein

Taylor

Christiano

2015

Logic, Rationality, and Interaction

View full text Add to dashboard Cite

Classical game theory treats players as special-a description of a game contains a full, explicit enumeration of all players-even though in the real world, "players" are no more fundamentally special than rocks or clouds. It isn't trivial to find a decision-theoretic foundation for game theory in which an agent's coplayers are a non-distinguished part of the agent's environment. Attempts to model both players and the environment as Turing machines, for example, fail for standard diagonalization reasons.

show abstract

Space-Time Embedded Intelligence

Cited by 28 publications

References 13 publications

Universal Artificial Intelligence

Universal Artificial Intelligence

Kutatási prioritások a megbízható és hasznos mesterséges intelligencia létrehozásáért

Reflective Oracles: A Foundation for Game Theory in Artificial Intelligence

Contact Info

Product

Resources

About