正确答案是：C: SELECT * FROM Persons WHERE FirstName='Peter'

分析：

A: SELECT * FROM Persons WHERE FirstName<>'Peter'
- 这个查询语句会选择"FirstName"不等于"Peter"的所有记录，这与问题要求相反。

B: SELECT [all] FROM Persons WHERE FirstName LIKE 'Peter'
- SQL中没有`[all]`这样的语法，正确的语法是使用`*`来表示选择所有列。此外，`LIKE`通常用于模式匹配，不适用于精确匹配。

C: SELECT * FROM Persons WHERE FirstName='Peter'
- 这个查询语句是正确的。它从"Persons"表中选择"FirstName"为"Peter"的所有记录，符合问题的要求。

D: SELECT [all] FROM Persons WHERE FirstName='Peter'
- 同样，`[all]`不是SQL中的有效语法，无法正确执行查询。

因此，选项C是唯一正确的选择。