L'étymologie de « science » vient du latin, « scientia » (« connaissance »), lui-même du verbe « scire » (« savoir ») qui désigne à l'origine la faculté mentale propre à la connaissance. Cette acception se retrouve par exemple dans l'expression de François Rabelais : « Science sans conscience n'est que ruine de l'âme ». Il s'agissait ainsi d'une notion philosophique (la connaissance pure, au sens de « savoir »), qui devint ensuite une notion religieuse, sous l'influence du christianisme. La « docte science » concernait alors la connaissance des canons religieux, de l'exégèse et des écritures, paraphrase pour la théologie, première science instituée.
La racine « science » se retrouve dans d'autres termes tels la « conscience » (étymologiquement, « avec la connaissance »), la « prescience » (« la connaissance du futur »), l'« omniscience » (« la connaissance de tout »), par exemple.
Le mot « science », dans son sens strict, s'oppose à l'opinion (« doxa » en grec), c'est-à-dire au dogme, assertion par nature arbitraire. Néanmoins le rapport entre l'opinion d'une part et la science d'autre part n'est pas aussi systématique ; l'historien des sciences Pierre Duhem pense en effet que la science s'ancre dans le sens commun, qu'elle doit « sauver les apparences ».
Le discours scientifique s'oppose à la superstition et à l'obscurantisme. Dans le cas de la superstition, il s'agit d'une opposition, la science niant les phénomènes surnaturels. Cependant, l'opinion peut se transformer en un objet de science, voire en une discipline scientifique à part. La sociologie des sciences analyse notamment cette articulation entre science et opinion ; leurs rapports sont davantage complexes et ténus que ne le croyait Gaston Bachelard lorsqu'il expliquait que « L'opinion pense mal, elle ne pense pas ». Dans le langage commun, la science s'oppose à la croyance, par extension les sciences sont souvent considérées comme contraires aux religions. Cette considération est toutefois souvent plus nuancée tant par des scientifiques que des religieux.
L’idée même d’une production de connaissance est problématique : nombre de domaines reconnus comme scientifiques n’ont pas pour objet la production de connaissances, mais celle d’instruments, de machines, de dispositifs techniques. Terry Shinn a ainsi proposé la notion de « recherche technico-instrumentale ». Ses travaux avec Bernward Joerges à propos de l’« instrumentation » ont ainsi permis de mettre en évidence que le critère de « scientificité » n'est pas dévolu à des sciences de la connaissance seules.
Le mot « science » définit au XXe siècle et XXIe siècle siècles l'institution de la science, c'est-à-dire l'ensemble des communautés scientifiques travaillant à l'amélioration du savoir humain et de la technologie, dans sa dimension internationale, méthodologique, éthique et politique. On parle alors de « la science ».
La notion ne possède néanmoins pas de définition consensuelle. L'épistémologue André Pichot écrit ainsi qu'il est « utopique de vouloir donner une définition a priori de la science ». L'historien des sciences Robert Nadeau explique pour sa part qu'il est « impossible de passer ici en revue l'ensemble des critères de démarcation proposés depuis cent ans par les épistémologues, [et qu'on] ne peut apparemment formuler un critère qui exclut tout ce qu'on veut exclure, et conserve tout ce qu'on veut conserver ». La physicienne et philosophe des sciences Léna Soler, dans son manuel d'épistémologie, commence également par souligner « les limites de l'opération de définition ». Les dictionnaires en proposent certes quelques-unes. Mais, comme le rappelle Léna Soler, ces définitions ne sont pas satisfaisantes. Les notions d'« universalité », d'« objectivité » ou de « méthode scientifique » (surtout lorsque cette dernière est conçue comme étant l'unique notion en vigueur) sont l'objet de trop nombreuses controverses pour qu'elles puissent constituer le socle d'une définition acceptable. Il faut donc tenir compte de ces difficultés pour décrire la science. Et cette description reste possible en tolérant un certain « flou » épistémologique.