理论上可以。必须查清楚学校招生简章里的考试科目，外语除了英语，是否还有其他可选。从绝对难度上讲，小语种的试题确实低于英语一。但是不要忘了，英语是从初中，甚至小学就开始接触，并且是作为主科学习的，而小语种，很多人是课外培训甚至自学的？所以其实半路改弦更张用小语种代替英语，难度可能更大。
考研是否可以用日语代替英语，需要看报考专业的科目要求。如果招生单位的专业目录上指明只能考英语的，将不能用日语代替。
例如：西北师范大学英语学科论考研初试科目是①101思想政治理论 ②201英语一或202俄语或203日语选一③311教育学专业基础综合。那么就可以用日语来代替英语考试。
清华大学的土木工程初试科目是①101 思想政治理论②201 英语一③301 数学一④804 结构力学（含动力学基础），那么就不能用日语代替英语。
二、用日语代替英语是否划算，需要看个人的英语水平和日语水平哪个比较擅长。英语和日语的总分都是100分，分数线要求也是相同的。
考研外语可以考的小语种有日语、俄语、法语、德语、西班牙语等。
一般考研时外国语为必考科目，且为全国通考，可选择的语种一般有英语、俄语和日语。如果招生单位的专业目录上指明只能考英语的，将不能选择其他语种，如果上面列着可选语种，那么所列语种选择其中一个即可，具体情况以招生单位的专业目录为准