正确答案是：C: SELECT * FROM Persons WHERE FirstName='Peter'

分析：
1. A: SELECT * FROM Persons WHERE FirstName<>'Peter'
- 这个查询语句会返回所有 "FirstName" 不等于 "Peter" 的记录，这不是我们想要的结果。

2. B: SELECT [all] FROM Persons WHERE FirstName LIKE 'Peter'
- 这个查询语句中的 [all] 是一个无效的关键字，而且使用 LIKE 运算符在这种情况下并不必要。正确的语法应该是 SELECT * FROM Persons WHERE FirstName LIKE 'Peter'，但这仍然不是最优的选择，因为我们不需要使用 LIKE 运算符来进行精确匹配。

3. C: SELECT * FROM Persons WHERE FirstName='Peter'
- 这个查询语句是正确的，它会返回所有 "FirstName" 等于 "Peter" 的记录。

4. D: SELECT [all] FROM Persons WHERE FirstName='Peter'
- 这个查询语句中的 [all] 同样是一个无效的关键字，正确的语法应该是 SELECT * FROM Persons WHERE FirstName='Peter'。

因此，正确的选择是 C。