首先：学语言肯定不是一朝一夕之功，没任何语言是可以速成的。请认真问下自己：准备长期坚持了么？ 如果楼主的回答是坚定的。那好，请看下一步。
第一：要系统的、全面的学习一门语言，肯定先从发音开始，汉语是拼音，英语是音标，日语是假名。假名分为2种：平假名（あいうえお）和片假名（アイウエオ） ，每个平假名对应一个片假名。就和英语的大写字母和小写字母一样的对应关系。 建议：可以先掌握平假名，只要掌握了平假名，片假名也就慢慢地掌握了。 （这点楼主已经掌握）
第二：一套系统的教材，很多培训机构的教材是“标准日本语”或者“大家日本语”这两本教材。这2套教材的确适合自学，但是我更推荐“新编日语”，新编日语4册学完之后如果还有意愿，可以学习高阶的“综合日语”2册。你所在意的单词、语法，只要慢慢的一步一个脚印的跟着教材学习，慢慢就能积累起来的。单词不建议单独背，放到课文中学习，更容易记住，记得更牢。
第三：听力的培养，多听，一定要多听，从简单的开始听。即使听不懂也要坚持听。具体的听力练习方法，百度一下，找个适合自己的。
第四：口语的培养。坚持每天抽时间（30分钟以上）读，可以把听力材料当做口语材料读。其实，如果你读的多了，很多单词、语法之类的自然而然就记住了。比如自己说的汉语，你说的多了，根本不用去研究其语法构成。
第五：坚持！这点比上面哪一点都重要。